AI开启智能安全时代新篇章

网络安全作为网络强国、数字中国的底座，将在未来的发展中承担托底的重担，是我国现代化产业体系中不可或缺的重要组成部分。随着AI技术的进一步发展，国内外主要网络安全企业在开发和引入AI能力、强化自身网络安全产品和能力的同时，进入AI安全的新赛道。

5月23日，现代新国企·AI赋能网络风险防控建设研讨会在深圳召开。会议由国务院国资委新闻中心指导，《国资报告》杂志社主办，中国联通、华侨城集团联合承办。来自网络安全监管部门、产业界、学术界、电信行业以及大模型领域的专家学者，就人工智能如何赋能网络风险防控建设展开热议，来自国资央企和网络安全企业的260余位有关代表参加会议。

与会专家认为，伴随着人工智能技术的快速发展，网络安全的“攻与守”已经进入了新阶段。面对AI带来的新机遇、新挑战，防守方需要利用大模型快速构建出安全能力。对此，国企需要聚焦AI自身风险防控和赋能网络安全，持续构建全面的安全防护体系，推动网络安全防护向智能化演进。

人工智能时代网络安全的“攻守道”

人工智能作为新一轮科技革命和产业革命的代表性技术，已经开始广泛应用于金融、医疗、制造等多个领域。同时，AI技术带来的安全风险，如恶意软件和网络攻击手段也在不断演变。

“这对于政府、企业和社会的网络安全构成了日益严峻的挑战。”中国联通集团网络与信息安全部总经理苗守野指出，AI赋能安全将成为重构网络安全防护体系的核心驱动力。AI可以通过机器学习和深度学习技术实现自动化防御，快速响应威胁，并持续学习和适应。

伴随着全社会数字化转型的加速，传统的网络安全防护手段，已经无法满足当前需求。业界认为，AI赋能安全具备广阔的应用前景。

根据MarketsandMarkets报告，2023年全球网络安全人工智能市场规模为224亿美元，预计在预测期内复合年增长率为21.9%，到2028年将达到606亿美元。2025年前，AI自动执行日常事件响应任务将成为主流，缩短响应时间，最大限度地减少手动错误，同时整合可解释的Al，以提高透明度，促进更好地了解威胁检测机制。2028年前，网络安全企业将能够更多地使用联合机器学习模型进行协作。2030年前，AI将与数据安全能力紧密结合，以确保敏感数据的保护和数据交易的安全。

“AI技术不仅能够提升安全运营的智能化水平，还能应对复杂的网络攻击，提升风险防控能力。”中国信息通信研究院人工智能研究所安全与元宇宙部主任石霖强调，随着AI技术的发展，网络安全产业面临新的挑战和机遇。AI技术的发展也带来了新的安全风险，包括数据泄露、技术滥用等。因此，建立AI安全风险管理体系，具有新的重要性。

进可攻、退可守，这是人工智能作为工具属性的两面。

“AI技术不仅为攻击者提供了新的攻击手段，也为防御者提供了新的防御工具。”联通数科安全事业部CTO周凯表示，随着人工智能技术的快速发展，网络安全攻防对抗已经进入了一个新阶段。他强调，AI技术已成为网络安全领域的关键因素，对攻防双方都产生了深远影响。

随着AI技术的快速发展，网络攻防对抗已经进入新阶段。深信服副总裁、研发体系总经理梁景波表示，有攻击者已经开始利用大模型技术来提升攻击能力，例如通过大模型生成的高对抗样本能够绕过现有安全设备。另一方面，AI技术也被用于安全运营，帮助提升运营效率和响应速度。

安恒信息首席安全官、高级副总裁袁明坤认为，“AI大模型的赋能是解决安全问题的关键，它可以帮助人员、工具、平台系统性地提升安全管理、技术和运营能力。”

AI技术为安全领域带来了革命性的变化，通过自动化和智能化手段，大幅提升了安全事件的响应和处理速度。绿盟科技集团副总裁宫智表示，AI技术不仅能提升安全运营的效率，加强实战对抗能力，还可以有效辅助安全研究，挖掘潜在漏洞和风险。

“大模型+”网络安全

在网络安全领域，如何将大模型的能力引入并赋能网络安全技术和产业发展，已经成为网络安全界的热门话题。

大模型通过其强大的语义理解、代码分析和复杂推理能力，显著提升了网络安全的效率和精度。它们能够自动化地收集和分析威胁情报，提高威胁监测的及时性和准确性。同时，通过自然语言交互简化安全设备的运营，降低安全运营成本，提升响应速度。促进安全知识的共享和合作，加强安全团队的协同工作能力。

大语言模型之所以受到广泛关注，是因为它们与早期AI系统相比，已经展现出超越特定任务的能力，向着通用人工智能（AGI）的方向发展。

公安部第一研究所科信中心信息安全部主任胡光俊表示，大语言模型在未来的应用场景主要体现在三个方面：一是知识增强，极大地扩展安全分析视野；二是能力增强，让攻防对抗更智能高效；三是效率增强，可推动安全运营走向“自动驾驶”。

“但是大模型有其局限性，如不能预测未来、缺乏复杂计算和推理能力等。”复旦大学教授、MOSS大模型负责人邱锡鹏进一步讨论了大语言模型的内在智能，强调了语言在人类认知和知识表示中的核心作用。

“AI大模型能够提供更智能化的安全防护，有效辅助安全运营，缓解人才缺口。”石霖在论坛中详细介绍了AI大模型在网络安全领域的应用情况，包括安全知识问答、安全工具调用、安全数据分析等。

人工智能是一把双刃剑，其带来的安全风险不容忽视。中国移动信息安全管理与运行中心处长张峰提醒，大模型可能存在数据泄露和技术滥用等风险，需要行业共同努力，加强算法安全管理、数据全生命周期保护，以及防范技术滥用。

对于数据集和语料的重要性，周凯认为，要充分发挥AI技术在安全领域的潜力，需要从国家或产业层面共享和整合数据资源，建立标准化的语料库，以支持AI模型的训练和优化。

面对AI带来的新挑战，防守方需要利用大模型快速构建出突变级的安全能力。梁景波介绍了深信服在这方面的探索和实践，包括开发安全GPT大模型，聚焦外部流量检测和钓鱼检测两大场景，在实战中展现出强大的推理和理解能力，显著提升了检测的准确率和效率。目前，深信服正在开发数据安全相关的大模型，如云原生安全平台和零信任平台，并计划在今年下半年发布。

关于大模型的可解释性和数据安全问题，宫智提到了AI技术在安全领域应用中面临的挑战。他提出，要确保AI技术本身的安全性，需要从训练、部署到应用各个阶段进行细致的安全考量和风险评估。绿盟科技开发大模型安全评估工具（LSAS），同时采用大模型与小模型协同联动的方式，提高AI技术在安全运营中的效率和效果。

AI赋能安全运营实践

国有企业特别是中央企业，是我们党执政兴国的重要支柱和依靠力量，对维护国家网络安全具有义不容辞的责任，近年来在技术攻关、产业赋能等领域进行了各类有效探索。

中国联通依托产业链链长的能力和资源优势，探索和实践AI赋能安全新路径。实践中，中国联通将AI创新纳入公司内部发展规划，并将其作为网络安全现代产业链链长能力建设的重要方向之一。通过构建隐私数据检测、对抗样本攻击等AI安全检测防御能力，中国联通正致力于推进安全防御和安全检测的智能化。中国联通研究院副院长叶晓煜指出，“中国联通在履行链长职责中有四条路径：技术固链、技术补链、融合强链和优化塑链。”

联通数科则积极探索AI技术在安全运营、安全攻防和安全代码开发等三大场景中的应用。在会上，周凯介绍了元景网络安全大模型，旨在通过AI技术提升安全运营的智能化水平，增强对网络攻击的防御能力，并提高安全代码的质量和开发效率。在安全运营方面，利用AI技术对安全事件进行过滤、分析和响应，显著提高了运营效率。在安全攻防方面，周凯指出：“AI技术可以帮助构建更加精准和高效的防御体系，将探索如何利用AI技术进行渗透测试，以发现和修补安全漏洞。”

“通过AI技术，可以实现安全事件的快速响应、自动化处理和智能化分析，从而提高安全运营的效率和效果。”石霖分享了中国信息通信研究院在AI赋能网络安全运营方面的观察和探索。

中国移动作为全球领先的电信运营商，积极响应国家战略，通过打造国资人工智能大平台、建设超大智算中心，以及攻坚大模型，不断推动人工智能技术的原创研发。中国移动已经成功将AI技术应用于网络调优、客服以及政务等多个领域，显著提升了服务效率和质量。

“国内外的法律法规为人工智能的发展提供了指引。”对此，张峰说，中国移动也提出了自己的AI治理安全体系框架，聚焦AI自身风险防控和赋能网络安全，通过六大安全防护措施，构建全面的安全防护体系。

安恒信息在安全运营模型方面的尝试，包括将云端服务能力、态势感知、管理协调产品、全链路产品与安全设备告警统一连接，形成标准化流程和资源，持续推动云端能力改进和数据优化。现在，安恒信息正在构建一个共生弹性的智能体，通过AI大模型让产品和服务具备持续的生命力。“未来的安全产品设计必须紧密结合AI，实现从辅助驾驶到自动驾驶的转变，提供综合分析研判的结果，减少对人工判断的依赖。”袁明坤说。

宫智也提到，通过应用AI技术，可以实现从辅助驾驶到自动驾驶的转变，有效降低成本，提高安全运营的自动化和智能化水平。比如，绿盟科技在安全运营平台应用AI技术后取得显著成效，收获了超过97%的降噪率和21%以上的敏感数据识别率。

建设人机共治的安全未来

跨模态融合、智能体的具身化、人机共治……AI技术在安全领域应用的前景广阔。

AI技术的发展需要与网络安全治理相结合。“加强AI治理研究，推动AI安全治理标准化，以及开展AI安全技术的研究和应用。”石霖对未来AI赋能网络安全的发展前景进行了展望。他预测，AI技术将在网络安全领域扮演越来越重要的角色，成为提升网络安全防御能力的关键因素。

人机共治的创新模式，是网络安全实战化、体系化、常态化主动防御能力的未来趋势。苗守野提出，随着AI技术的成熟，将形成“大模型+小模型+安全攻击”的协同作战新模式，实现人机共治，建立更高效、精准、主动的网络安全防御体系。中国联通将继续从攻防对抗本质出发，围绕安全运营、安全攻防、安全代码开发等方面，拓展AI赋能安全业务应用场景，推动网络安全防护向智能化演进。

对于大模型的未来发展，邱锡鹏教授分享道：“将构建能够模拟和理解环境的模型，并在此基础上实现决策和预测。构建世界模型所需的研究方向，包括寻找新的技术架构、数据治理、与人类学习和价值观对齐，以及与现实世界的交互能力。”通过这些研究，邱锡鹏教授希望能够推动大语言模型向更高级的智能系统发展，为未来的网络安全和其他领域带来革命性的影响。

“同时，人类必须保持警惕，确保AI技术的安全、可靠和可控，以实现其在网络安全领域的积极作用，为社会创造更大价值。”张峰强调，面对人工智能带来的变革，要坚持科学发展与伦理约束相结合。

通过AI技术的赋能，可以开启智能安全时代的新篇章。周凯在会上呼吁业界共同努力，推动AI技术在网络安全领域的应用，共同应对日益复杂的网络安全挑战。

最后，袁明坤提出了三点展望：“一是AI发展要正本清源，确保算法的公正性和伦理性；二是数据是核心资源，高质量的数据标注和安全语料对AI的公平性、有效性和安全性至关重要；三是安全理念要与时俱进，利用AI技术实现从被动防御向主动防御的转变。”

海量资讯、精准解读，尽在新浪财经APP