为何AI和安全将成未来两大通用技术？社科院发布报告

1月18日，中国社会科学院大学数字中国研究院联合蚂蚁集团发布《数字时代安全科技价值报告》。中国社会科学院大学数字中国研究院执行院长吕鹏在解读报告时表示，安全科技将成为社会的公共品，与人工智能并列为未来的两项通用技术。在AI大模型及深度数字化趋势下，安全科技的价值在放大。

人工智能大模型重构数字世界 安全风险迎来“质变”

有新技术的地方，就有新的安全风险。科技部“云计算+大数据”国家重点专项课题负责人、数秦科技执行总裁兼首席科学家崔伟举例称，对于供应链技术，安全风险就包括网络遭到破坏，数据中心停止工作，可能导致整个供应链中断或者瘫痪，如果是一些涉及国计民生的重要物资，像是疫情中的药物运输，就会造成很大的社会影响。

在当前人工智能大语言模型技术异军突起的背景下，相关的AI安全问题也层出不穷，例如大模型与人类的认知一致性、价值观对齐问题，AI决策本身不可见的“黑盒”问题，以及AIGC生成内容不可控的问题等等，这些问题无不制约着AI应用的发展，同时AI的广泛应用也扩大了其可能影响到的安全范围，安全风险正迎来“质变”。

“自ChatGPT出现以来，技术从业者增加了很多焦虑，似乎一天不关注技术自己就落后了。”荣耀终端有限公司高级技术生态经理张有科说，“就像安全是一种伴生技术，手机也是人的伴生。安全性是和范围有关系的，最早用防火墙的人，安全范围只在PC端，而对于现在手机基本上已经人手一部的情况，安全的范围也发生了变化。”

中国科学院计算技术研究所副研究员敖翔表示，近期AI技术发展较为快速，但它自己的safety（内生安全）还不太好，这和security（外部安全、安保）不一样，“例如自动驾驶出问题就是safety层面，内生安全，目前人工智能的许多问题来自safety层面，它的智能涌现得益于不确定性，内生安全的产生也源自不确定性。怎样让AI变得更可信，这是和普通的安全不太一样的点，内生安全与外生安全的融合，就带来了许多新的问题，这需要我们去关注。”

因此，在当前环境下，新技术的发展是和安全技术的发展同时进行的。报告认为，安全科技的双重价值，越来越重要。这种重要性既体现为“压舱石”，更重要是作为“助燃剂”：压舱石指的是守住技术的安全底线，防御可能存在的风险隐患，支撑和保障数字社会的稳步运行；助燃剂是提高技术的安全上限，降低技术运行的成本，让AI大模型等新技术得以规模化落地，推动产业焕发新机，让更多人从中受益。

“如果我们没有刹车技术，那么就不会有汽车的产生。所以安全技术能够让更多的产业‘跑起来’。”吕鹏说。

他表示，安全科技不只是一套技术，也不是企业的运营成本，而是数字社会的优先事项之一。它保护的不是若干行业、某个业务、几段数据，而是社会里的每个人，是技术向善的关键保障。尽早对安全科技投资研发，也有助于掌握新兴技术发展与产业迭代的主动权，成为建设世界科技强国的基石之一。

如何为技术利刃打造“刀鞘”？

报告认为，“技术是把双刃剑”，在它以更快的速度变得越发强大时，不可能扔掉利刃，放弃科技；惟有以另一种科技打造足够安全的刀鞘。

例如，当前 AI 大模型的安全质检主要有三个需求：训练阶段的数据质检、大模型的应用质检。目前，蚂蚁集团、奇安信、360等均在AI安全方面做出了业务探索。如蚂蚁的大模型安全检测平台“蚁鉴 2.0”采用了“对抗智能”技术路线，使用智能对抗技术向大模型“投射问题”，观察模型生成的回答，实现了对AIGC生成图片、视频等多模内容的“真伪”辨别和安全性检测。

张有科认为，安全问题需要从社会、产业、用户层面三位一体的考虑，“科技的终端是老百姓，老百姓关心自己的数据资产，关心应用的安全，这要用技术手段解决。例如大人有时候把手机给孩子玩，密码孩子也知道，结果没注意被孩子进行了付款行为。”

对于这一问题，蚂蚁集团安全实验室主任，数字身份智能团队负责人李哲表示，在技术上可以从触屏交互时，未成年人可能有手指接触面积小的特征，从而给出行为识别方面的判断，“我们利用该技术最早是帮助盲人提升读屏模式方面的用户体验，后来成为了跟荣耀方面合作帮助解决未成年人行为识别，这就是安全技术的双重价值。”

此外，对于未来的安全，中国社会科学院大学哲学院教授、中国社会科学院科学技术和社会研究中心主任段伟文表示，数字化转型应该采取“慢起飞模型”，在鼓励新技术发展、产业升级的同时，不应单单追求转型的速度，而是在社会需求方面投入更多力量，通过更好的安全科技和制度构建，尽量减少个人与社会为数字化转型所付出的代价，让技术起飞能惠及更多人。

报告认为，随着大模型浪潮的演进，安全将会成为AI领域的关键能力，无论是拥有自身大模型的大企业，还是第三方安全科技企业，都会推出更多聚焦AI安全的产品。最终，成熟的产品生态和完善的标准体系会成为平息业界争论，将更先进的AI能力带到更广人群面前的最佳途径。

新京报贝壳财经记者 罗亦丹

编辑 陈莉

校对 赵琳

海量资讯、精准解读，尽在新浪财经APP