博鳌现场｜“现有的大语言模型像个黑匣子，难以确定其真正目标和潜在风险”_新浪财经

转自：澎湃新闻

“未来100年后，我们看现在的人类，就像人类看四万年前的山顶洞人。未来一定是人工智能和机器融合的时代，我们必须正视AI（人工智能）带来的风险，如果不加以引导控制，可能会引起生存危机。”

伴随Sora、ChatGPT等接连诞生，人工智能正在引爆新一轮产业革命，在2024年博鳌年会上，中国工程院院士、清华大学智能产业研究院院长张亚勤谈到他心中的人工智能发展趋势。

“这是我第八年参加博鳌，也是第八次在现场讨论人工智能。”小i集团董事长兼首席执行官袁辉袁辉笑称，在他第一次参加时，当时的科技圈普遍认为人工智能的“奇点”还很遥远，如今科技发展瞬息万变，人工智能已成为人类需要思考和警惕的巨大挑战。

第四范式联合创始人胡时伟则在接受澎湃新闻记者采访时表示：“新质生产力是定义人工智能的模式和路径，人工智能是新质生产力重要的技术手段支撑和发展的重要引擎。这是国家战略层面的重要方向，我们要做的事情就是积极地去实现这个方向。”

人工智能的未来究竟会走向何方？现场，多位学者和企业家展开热议。

大语言模型就像“黑匣子”

“现在的AI只是一个看似智能的信息处理工具，并不具备真正的人类理解能力。”中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅表示。

人工智能作为学科出现时，普遍被认为能精确描述人类的智能学习或是方方面面，当前的人工智能在行为上看起来有接近人类水平的表现，但在一些关键的人类从不犯错误的领域，人工智能不停犯错，这说明现在的人工智能系统还只是一个看似智能但还没有真正的智能能力的系统。

在曾毅看来，机器人如今仍然是通过行为的模拟，尽可能和人类的接近。“但即使人只能做到60%，机器能做到99%，那百分之一就是人和机器的差别。”

“人工智能是赋能所有行业的，现在已经像感觉空气一样感觉到它的存在，而且一旦断开就再也没有生存可能，如今人工智能已经浸润人们生活的每个方面，渗透到思考、呼吸以及每个动作，没有一个产业有理由拒绝人工智能。”袁辉表示，通用人工智能（AGI）最早的定义就是未来何时会具备人类一样的自我意识，那将是对人类产生终级挑战的物种。

“未来人类如何更好利用AI，将会是每个个体、乃至企业跑赢大盘的关键。”袁辉认为。

加州大学伯克利分校计算机科学教授斯图尔特·罗素表示，当前的人工智能系统仍然存在技术缺口，简单的模型扩展和数据增量并不能完全弥补这些差距。在他看来，现有的大语言模型像是一个“黑匣子”，其内部机制和运作方式并不透明，这使得人们难以确定其真正的目标和潜在风险。

人类在面对比自己更强大的机器时，应该如何保持掌控权？罗素呼吁，应当在人工智能领域进行更深入的研究，以实现所谓的“可证明的AI”，即能够证明其行为对人类有益的系统。

张亚勤则坦言，未来AI发展风险需要引起重视，人工智能加速了人类脑力的进化，未来一定是人工智能和机器智能融合。但风险很大，我们必须正视风险，如果不加以引导控制，这个风险会转化成为人类生存的风险。

谈国际差距：有能力未来对标国际顶尖

在中美AI差距方面，袁辉表示，本质上从算法、数据和应用场景来看，各个国家有不同的优势。“中国从互联网开始，在应用领域是全球领先的。但我们需要在基础核心的技术研发领域进一步发力。”同时他表示，近年来无论是在专利、知识产权申请还是论文发表方面，从数量和质量方面都有很大的跃升。

科大讯飞副总裁刘聪则告诉澎湃新闻记者，中国确实和国际顶尖的AI水平存在一定差距，这是共识，但是这样的差距正在持续地追赶，在他看来，通用大模型的主战场还是底座大模型，中国大模型底座能力需要依托自主可控平台进行创新。科大讯飞去年与华为联合推出的首个支持万亿浮点参数训练的国产算力训练平台“飞星一号”，科大讯飞在今年1月30日发布讯飞星火大模型V3.5，同步推出星火语音大模型。讯飞星火V3.5七大核心能力全面提升，其中语言理解、数学能力超过GPT-4 Turbo，代码达到GPT-4 Turbo 96%，多模态理解达到GPT-4V 91%。

刘聪认为，中国有能力在算力平台上对标国际顶尖水平，目前，对标GPT-4当前能力的讯飞星火V4.0正在训练中，预计在2024年6月发布，将在中文能力上实现完全对标。

而在曾毅看来，中国未来人工智能发展不仅仅是要在最基础模型上进行颠覆式创新，更关键的是全自主的软硬件协同创新，虽然人工智能趋势是全球化产业链，但是中国要做好软硬件基础设施上不依赖于可能会脱钩断链技术的准备。不过，人工智能“脱钩断链”的做法可能得到全球反对，这会对全球产生更大的数字鸿沟。

他认为，为了避免这样的趋势，中国发展人工智能模型算法算力，未来应当它共享给全球。