全国政协委员、奇安信集团董事长齐向东：AI带来的安全问题，要靠AI来解决

转自：中国经济周刊

《中国经济周刊》 记者 郭霁瑶|全国两会报道

新一轮科技革命和产业变革方兴未艾，信息化、数字化正在重新绘制世界图谱，这也让网络安全成为大国博弈的重要领域。

在这一轮科技革命的浪潮中，人工智能正迅速重塑人类经济社会生活的方方面面，同时也带来了AI武器化、数据泄露、“深伪”诈骗等安全问题。与此同时，人工智能也在赋能网络安全行业，越来越多的国家和机构正加速布局网络安全与AI技术融合。

“我们有责任、有使命大力发展安全技术。”全国政协委员、奇安信集团董事长齐向东在接受《中国经济周刊》记者采访时说。今年全国两会期间，齐向东将目光聚焦“AI+安全”领域，并提出相关建议。

2024年将是“安全底线大年”

当下，以“求财”为目的的勒索攻击愈演愈烈，境外国家网络军队和情报机构成为重点防范对象，漏洞后门事故频发，AI武器化趋势愈演愈烈。

齐向东判断，在多重因素影响下，2024年将是“安全底线大年”。

“我们将主要面临三大网络安全新挑战。”齐向东表示，这三大挑战主要包括：一是攻击者假冒身份的挑战。数智时代，数据流转过程复杂，安全边界模糊，导致访问者的身份难以辨认、行为难以管控。黑客能披着合法外衣做坏事，窃取重要的隐私信息。

二是软件后门和漏洞层出不穷的挑战。齐向东透露，奇安信代码安全实验室曾对1589个软件项目的源代码进行分析，结果显示，程序员每敲1000行原始代码，会出现大约11个缺陷，其中包括0.85个高危缺陷。

“这些年，我们感觉漏洞是越补越多，而且是成倍增长。因为补漏洞也是用代码补，这种用于补漏洞的代码本身又会被扒出漏洞。”齐向东坦言，“而且现在AI武器化趋势非常明显，其中一种方式就是用AI挖漏洞。这使得利用漏洞和后门进行网络攻击的成本越来越低。2024年我认为这种情况将泛化。”

三是“内鬼”猖獗的挑战。齐向东解释，内鬼主要是“三员”，包括管理员、技术员和操作员。他们有较高的数据访问权限，很容易获取企业内部资料和财产。

“但新的机遇现在也非常明晰。”齐向东特别提到。他认为，我国在加快建设网络强国、数字中国的进程中，网络安全产业迎来了两大机遇。一是网络安全系统的信创化（指信息技术自主可控，规避外部技术制裁和风险）。如果以网络安全投资占比5%～10%的比例测算，万亿级的信创风口将带来上千亿的网络安全市场。二是数据安全驶入发展快车道。建设数字中国，数据安全是重要保障，我国数据安全市场将持续高速增长。

“像支持新能源汽车一样，支持‘AI+安全’”

从ChatGpt的横空出世到Sora的颠覆式创新，围绕人工智能的讨论热度从去年两会一直延续到今年。“人工智能+”也成为几乎每一个网络科技从业者在接受媒体采访时绕不开的话题，齐向东也不例外。

“不法分子利用AI技术犯罪已经进入一个普及期。”齐向东直言，当下人工智能大幅降低了网络攻击门槛，不懂代码、不懂技术的普通人也能成为黑客，这增加了网络攻击数量。同时，专业的黑客组织可以利用人工智能对网络攻击进行改造升级，安全威胁进一步加剧。

“未来可能会出现利用人工智能加剧网络犯罪的热潮。”齐向东说。

更令人担忧的是，AI还加剧了军事威胁，AI武器化趋势显现。齐向东表示，一方面，人工智能可以被用在“机器人杀手”等致命性自主武器(LAW)上，通过自主识别攻击目标、远程自动化操作等，隐藏攻击者来源、建立对抗优势；另一方面，人工智能可以将网络、决策者和操作者相连接，让军事行动针对性更强、目标更明确、打击范围更广，越来越多的国家开始探索AI在军事领域的应用。

面对如此艰巨的挑战，我们又该如何应对？

“AI带来的安全问题，只能用AI来解决。”齐向东认为，AI一方面让安全问题凸显，同时也在赋能网络安全行业，在促进攻防技术升级上有大作用，这将推动攻防双方在AI利用方面展开竞赛。

“人工智能不会取代网络安全专家，但是它会让网络安全专家更有能力应对危险，所以人工智能应该是在网络安全领域掀起一场技术革命，让网络安全行业变得更好。”齐向东说。

他建议，应大力探索“AI+安全”创新应用，抢占国家安全的人工智能战略制高点。具体来说，齐向东认为要抓住三个关键。

从供给侧看，开展联合创新，围绕攻防实战和应用场景实现“AI+安全”尖端技术研发突破。建议鼓励各行业头部企业与专业安全厂商结成创新联合体，在关键行业选取典型场景开展联合创新，共同探索大模型安全创新产品在威胁检测、漏洞挖掘、指挥研判等方面的应用，在实战中推动“AI+安全”进入越用越强的良性循环。

从需求侧看，强化政策牵引，推动“AI+安全”技术创新产品在各行业落地应用。积极的政策引导是推动新事物落地应用、成长壮大的催化剂。建议像支持新能源汽车发展一样，支持“AI+安全”发展，设置专项基金，对研发创新“AI+安全”产品的企业，给予政府基金、贴息贷款或科研项目等支持；对率先取得技术突破，实现成果转化的科研机构和企业给予奖励；对积极使用相关技术、产品和服务的企业给予相应补贴，推动“AI+安全”相关产业取得更多科技创新成果。

从人才侧看，壮大“AI+安全”领域的实战型、复合型人才队伍。随着AI技术普及和应用领域不断扩展，齐向东认为，我国AI人才严重短缺。建议充分发挥民营企业在人才培养上的优势，鼓励成立校企共同体，在实践中培养更多大数据、人工智能、网络安全等新兴产业领军人才，为我国抢抓人工智能机遇贡献力量。

责编：孙晓萌

海量资讯、精准解读，尽在新浪财经APP