圆桌丨以标准制定引导AI智能体产业良性发展|AI智能_新浪财经

转自：中国经济时报

编者按

　　鉴于人工智能、大数据、云计算、区块链等新一代信息技术近年来加速融合，基于大语言模型（LLM）构建的AI智能体已在元宇宙、虚拟数字人、数字藏品、AGI之后成为业界新热点。以AI智能体的不断涌现为牵引，感知智能、认知智能、具身智能的创新践行及其初步成果开始整合汇流：一方面，通过不同产业底盘的协同倍增，为经济社会的数字化转型提供了新的引擎动力；另一方面，这些跨领域的融合创新，也给经济社会治理和产业政策制定带来了新的挑战。

图片来源/新华社

■主持人赵姗

AI的产业化开发需拓宽视野、强化引导

■清华大学复杂工程系统实验室主任、中国人工智能学会智能产品与产业工作委员会主任任勇

中国经济时报：在下一轮AI智能体创新浪潮即将来临之时，我们需要着眼于哪些问题？如何看未来AI的产业化应用趋势？

任勇：现代科技进步对社会发展的双刃剑效应日益凸显，需要我们用整合性思维重构问题框架，而“AI智能体”这一概念从语义层面把人工智能核心技术与更多的智能化软硬件载体勾联起来，逐步形成基于感知、链接、计算、云、AI、终端和行业场景化应用的整体性研发创新框架，超越了传统基于单个应用场景需求来谋求解决方案的研发指向，对于我们下一阶段推动城市、行业、企业的智能化转型升级具有方向上的引领作用。

　　今年下半年以来，大家都在热议数据资产，但数据资源并非天然就是数据资产，只有经过活化开发、深度挖掘和精准匹配，并能够为我们生产生活场景的优化提升带来价值的数据资源，才可以视为有效的数据资产。而在这一过程中，智能匹配是核心，对于支撑各行业数字化转型走向智能化的高维阶段具有决定性意义。尤其是AI技术与云计算技术的结合，将以“万物摩尔定律”代替过去基于集成电路上可容纳元器件数目的“实体摩尔定律”，带动我们在现代信息技术驱动的研发创新环节实现新的突破。

　　与此同时，我们面临的挑战也是非常多元的，智能匹配可以让过去我们需要大量商业运营或行政干预的事务进入一种AI驱动下的自动运行模式，一方面节省了大量的人财物力，另一方面社会的自运行、自组织、自演化能力在自我强化，与现有的国家和社会治理体系之间呈现出一种优化张力。

　　特别是伴随90后、00后这些数码原住民逐步登上社会舞台，他们在未来会成为AI领域创新产品的种子用户，甚至其中一部分人本身就会成为这一波创新大潮的生力军；但他们的价值体系、评判标准与过去几代人之间的差别不只是基于年龄的代际差异，还有基于碳基和硅基背景的时代差异，更有追求自我价值的彰显和个性化的表达。我们从媒体报道上也经常看到一些少年技术极客的故事，对未来这些创新能不能有效引导、让这些创新力量有效服务于我们的经济社会发展而避免成为逆向的干扰性因素，这都是我们在下一轮AI智能体创新浪潮来临时需要考虑的问题着眼点。

　　当前，在技术驱动和资本市场助力之下，AI智能体正与医疗、交通、教育等行业场景加速融合渗透与落地。在AI智能体创新发展进程中，多智能体的协同及人机交互型混合智能体在复杂环境中的场景化应用正面对着诸多新型问题和挑战，工具理性与主体理性、商业价值与伦理价值之间的张力凸显。目前，国内并没有专门针对AI智能体技术创新、产业发展和伦理规范的团体标准，权威标准的缺失导致方向引领性不明晰，也会影响业界创新成果的发展协同和产业生态的和谐共生，从而致使社会治理的总体效能无法提升。

　　现代信息技术发展到今天，从PC互联、移动互联到空天信息、智慧海洋，我们构建人与人、人与物、物与物之间链接的方式在持续演进，对自然界物理资源要素的整合开发能力也随之不断提升，对AI产业化应用的视野还可以进一步放宽。

　　比如，我本人长期从事复杂系统工程和智慧海洋产业的相关研究，也全程见证了我国近三十年来海洋资源开发利用的发展历程。我国作为拥有漫长海岸线和巨大管控海域的海洋大国，目前在海洋资源的整合性开发方面还有很大上升空间。过去我们的海洋渔业、海上运输、海洋文旅在运营上各自为政，资源开发利用很不充分。现在我们也在宽带海洋网络服务主流海洋产业及其之间互动的研究上探索一些新的发展路径，期待从研发端为建设海洋强国寻找破局点。

　　我们现在也需要加大海洋资源开发力度，让丰富的海洋资源真正为我所用。而在这方面，我们必须有效借鉴发达国家以先进技术驱动海洋开发的经验，探索适合我们自身的中国道路，否则就会在国际竞争中落于人后。

　　清华大学一些相关院系的团队目前也在探索基于现代信息技术、AI技术和海工装备技术链接的新型“海洋牧场产业园”整合开发模式，引入定制化设施和智能化深海网箱带动我国海洋渔业的集约化开发，这也可以视为在海洋这一超大场景之中探索AI智能体的落地路径。未来，AI与各行各业的结合将是一个常态，基于不同的场景特征和场景需求，我们需要匹配合适的技术链路和商业模式来带动资源的有效开发，为早日建成海洋强国贡献力量。

构建具有中国特色的AI智能体生态

■中央财经大学数字经济融合创新发展中心主任陈端

中国经济时报：如何理解AI智能体的概念？AI智能体如何构筑起以AI为核心的开放式创新生态系统并带动其他产业生态和服务生态升级？

陈端：AI智能体的概念最早是由麻省理工学院著名计算机专家、人工智能学科创始人之一的Minsky提出来的，他在《SocietyofMind》一书中将社会与社会行为概念引入计算系统。目前，我国学界和业界对AI智能体的定义并未达成共识，较为普遍的看法认为其作为AIAgent（又译作AI代理），是基于计算机程序，具备一定目标导向、自我学习、环境交互和决策执行能力的智能实体。

　　相较于自然语言输入提示词得到相应结果的大模型，AI智能体因为可以自我学习和跨应用程序完成任务，可以根据环境信号调整自己的决策和执行路径，并且具备与其他智能体或人进行合作的能力，其场景驱动、任务导向的特征更为鲜明。

　　特别是多智能体的协同过程中，具体任务或目标的分解、匹配、执行和冲突消解都需要持续根据变化中的环境信号和多方博弈进程协商完成，伴随AI自我学习能力的提升，相关结果将存在一定的不可控和不可逆性。从目前各种报道来看，AI已经开始有微弱的意识闪现，如果放任AI学习能力的自我强化而不对相关科技创新加以引导，一旦其主体性意识压倒工具性效能，就可能为人类经济社会的发展带来前所未有的挑战。

　　2023年以来，以ChatGPT为代表的大模型创新浪潮成为社会关注的焦点，但大模型在解决了自然语言输入的问题、降低了面向普通用户的使用门槛之后，如何寻找合适的落地场景、真正实现为生产生活有效赋能成为下一个关键。

　　上世纪50年代达特茅斯会议之后的一段时期内，在用人工神经网络模拟认知过程方面取得了很大的进展，但AI智能体与真实世界如何有效交互方面进展较慢。基于符号表征为核心的经典AI进化路径之一——以具身智能为代表的行为主义方法逐渐浮出水面。

　　如果说以ChatGPT为代表的大模型是“离身智能”的代表，那么“具身”意味着认知对身体的依赖性，把AI的多模态认知能力与软硬件结合的服务能力进行协同。具身智能的引入为大模型找到了落地发挥效能的基座，让AI与外部世界的交互可以通过更为真实的方式产生效用。

　　从产业和投资的视角来看，每一种赛道都有其产业盘面和发展天花板，纯粹基于软件服务的SASS系统即便对企业数字化升级起到的作用很大，鉴于其自身的产品属性也很难有太高的赛道估值和行业拓展空间。而具身智能的引入则可以把SASS服务模式内植于不同的硬件装备之上，既实现了对传统硬件的功能升级，也可以放大AI的产业底盘。

　　当前，美国的创业体系、投资体系、公司体系都在全方位拥抱这一轮新的AI革命，在当下这样的时点，发展中国自己的AI智能体生态不仅对新旧动能转换有积极意义，也是大国竞争的重要维度。

　　从单细胞智能到高级物种智能再到群体智能，这是一个在不断重组进程中进行类生命有机化融合的过程。不能用孤立的眼光来看待AI智能体，从多智能体协同的角度来看，它将构筑起以AI为核心的开放式创新生态系统，带动其他产业生态和服务生态的升级。

　　AI智能体终端越来越丰富，海量异构数据持续产生，但因为终端种类繁多，要把这些终端通过软件和算法的升级迭代有机协同起来并非一蹴而就。而现代城市作为众多产业和人群集聚的中心，如果立足更开阔的视野，其本身就可以成为一个多智能体有机协同的超大型智能体。

　　城市智能体的升级不仅是新基建的铺设和完善过程，也是城市管理体系升级的过程，可谓新基建、传统基建与软基建的协同创新。通过构建泛在链接的智能感知与交互体系，可以带动整个城市的运维实现类生命有机化。

　　随着智能化基础设施的不断完善，AI作为赋能灵魂植入更多应用场景，实现单一场景优化向多场景协同，以应用端的场景协同带动AI产业市场空间盘面的延展，也可以成为当前形势下提振内需和投资市场信心的一个抓手。

　　我们对2019年以来中国人工智能领域出台的117项团体标准进行了汇总梳理。梳理发现，关于人工智能领域的团体标准内容多是针对人工智能在特定行业或特定场景的安全要求、技术规范、测试方法等，偏重于技术细节，融合产业、伦理、技术、安全等多维度的团体标准目前比较少。

　　特别需要提出的是，目前国内关于AI智能体的团体标准尚处于空白状态，众多创新主体在技术路径选择上缺乏权威标准引领，不易形成创新合力，而放任产业创新无序扩张也不利于创新风险防范，加大了未来的治理难度。

工业智能体团体标准需要重点关注三个维度

■软通动力副总裁兼技术研究院副院长雒冬梅

中国经济时报：当前，我国亟须在人工智能领域细化产业标准。软通动力在智能技术方面探索已久，在人工智能自然语言、大模型的行业应用方面都积累了不少经验。具体从工业视角，您认为智能体团体标准需要重点关注哪几个方面？

雒冬梅：当前，关于AI衍生风险的讨论不绝于耳，例如法律风险、伦理风险、数据和网络安全风险、人工智能可能造成的失业问题等。在AI智能体创新领域，除了传统的算法黑箱、数据垄断、信息安全等内生性问题给中小微创新企业和普通公众带来认知与资源不对称的困扰之外，我们还需要关注其风险的广泛性与多样性带来的风险叠加与风险交叉感染，以及基于多因素的风险源不确定和风险结果不可控等。此外，当前我们正在经历的变革节拍太快，社会公众层面对风险的感知和防范能力不一样，风险承受结果和承受能力也不均衡，技术创新风险有可能触发之前沉积的其他风险，这些都是我们需要警惕的。

　　目前，我国尚未对如何进行人工智能服务或技术分类分级提出系统完整的方案，在技术和产业层面如何具体推进《全球人工智能治理倡议》内容，在人工智能前沿创新领域凝聚国内共识、构建中国标准、传递中国声音、参与国际规则，成为下一阶段需要集中破解的焦点问题。

　　AI智能体团体标准是为了满足人工智能技术发展的需求，同时也是为了顺应AI产业发展的趋势。目前针对AI的技术，业态表现都相对碎片化，人工智能的创新应用多数都是源自智能的涌现式创新，而过度智能创新会带来危害性的一面，也不利于AI智能体在产业化路径上的长期可持续发展。

　　从工业视角，智能体是以积极、安全、可靠服务于人为目标的。工业视角智能体是指通过数字化技术，模拟和重现实际工业系统及其环境的动态行为，反映工业系统的真实状态、性能和运行情况，并对系统进行预测、优化和控制的智能软件代理。这种智能体具备数字孪生、仿真交互、模拟预测、自我决策等特点，也拥有自主决策和执行任务的能力，能够自适应、自组织和自我修复，对于提高工业系统的效率、灵活性和智能化程度具有重要意义。

　　广义智能体的定义，是面向多要素复杂系统的智能。关于AI智能体团体标准的制定，可以循序渐进展开，首先制定一个总体性的标准框架，树立一个价值基座，然后在不同的维度和具体产业场景中进行细化。

　　我认为，工业智能体团体标准需要重点关注以下三个维度。

　　一是在技术纬度上：针对不同的智能体技术，如机器学习、自然语言处理、计算机视觉、模型训练、评估和训练等在复杂智能体系统中的各自功能，明晰相关标准，让各个技术模块能够基于标准形成更富兼容性与拓展度的功能生态，以实现更好、有效的标准化协作。明晰的标准也有助于保障数据要素的规范化流转和安全性流通。可以预见，智能体的标准不是单一化的约定，从用户的角度而言，AI智能体的标准一定要关注交互界面的灵活性与协作性，包括效率、效能等，这些都是相对比较优先考虑的要素。

　　二是在产业纬度上：智能体的产业化应用离不开更多场景的支持，如果没有场景化应用，智能体也就没有了存在的意义。智能体标准制定需要考虑人工智能在向不同类型的细分行业进行落地时该行业和其需求的特点，例如工业、医疗、交通等领域，可能要求智能体应用作业的闭环性及连续性，更加注重的是工业应用制造产品的高效率和质量稳定的输出能力。而医疗智能体的应用更加强调开放性、精准性，因为医疗诊断、问诊、治疗等这些环节是更复杂的，是要求人与智能体协作作业、协作决策。智能体标准在面对不同智能体系的时候需要考虑兼容场景端需求的不同特点，才能增加标准的普适性与适用性。

　　三是在法律与伦理的纬度上：智能体的发展必须同时解决源自法律和伦理层面的问题。在成熟的立法尚需时日的背景下，通过团体标准的发布构建行业共识，形成对产业创新的软性约束与价值引领，也不失为一种策略。例如，面向用户端的AI交互，可以针对性制定对交互内容的相关标准，以及对智能应用和背后的数据安全、数据隐私等进行伦理的约定。对智能体训练样本数据、模型训推参数的数据隐私、数据内容都提出相关的标准来约束，确保在产业中引导每一个产业应用都是人类可控且服务于人的应用。

　　以上问题需要通过国际化、多领域的团队协作，充分调研行业需求，持续完善对标准的内容制定。