薛澜：AI会控制人类吗？|人工智能_新浪财经

转自：湖州日报

　　文/记者郑重图/记者钱龙杨启帆

　　人工智能，英文缩写为AI，是一种由人制造出来的机器，这种机器可以模拟人的思想和行为，从而体现出一种智能反应。AI无疑是最引人瞩目的领域之一。AI正以惊人的速度改变着我们的生活、工作和社会的方方面面。从智能语音助手到自动驾驶汽车，从医疗诊断到金融分析，AI的应用无处不在。它既带来了前所未有的便利和创新，也引发了人们对于未来的诸多思考和担忧。2024年世界互联网大会乌镇峰会也把目光聚焦在了AI上，各种高科技产品展示着未来的无限可能。那么，AI会控制人类吗？AI会造福人类还是会带来各种风险？AI发展蕴藏哪些风险和机遇？如何增强AI的治理效能？国际合作机制应如何应对AI的潜在风险和社会影响？本期《郑重提问》对话清华大学苏世民书院院长、人工智能国际治理研究院院长薛澜，我们来听一听他的见解。

　　人物名片

　　薛澜，男，清华大学文科资深教授、苏世民书院院长、公共管理学院学术委员会主任，清华大学人工智能国际治理研究院院长、国家新一代人工智能治理专业委员会主任。受聘担任国务院参事、国际欧亚科学院院士、中国医学科学院学术咨询委员会特邀学部委员等。曾获国家自然科学基金委员会杰出青年基金、复旦管理学杰出贡献奖、中国科学学与科技政策研究会杰出贡献奖、第二届全国创新争先奖章等。

　　人工智能无处不在，渗透到日常生活的方方面面。您觉得带来各种便利的同时，会有哪些潜在的风险？

　　薛澜：目前，我国经过网信办批准的在社会上运用的大模型已经有上百家，是全球领先的国家之一。如今，我国的人工智能已经发展到方方面面。人工智能技术在社会中的应用已经远远比我们想象广泛得多，我们社会很多的运行，包括日常开车觉得今天路上更加畅通，背后其实用大量的人工智能技术去调控整个红绿灯的交通体系，所以人工智能技术的应用已经远远超出我们直接能看到的。

　　但我们也要看到，它的应用背后还是有一定的风险的。一直以来，我都密切关注着人工智能风险问题。人工智能风险可能对个体的生活产生危害，也可能影响社会安全，甚至可能将人类拉入一场碳基文明与硅基文明的冲突。举个例子，很多事情我们要去银行排队，那就是挺麻烦的事，现在因为有手机银行，而手机银行背后非常重要的工具其实是人脸识别、指纹识别等等，都要用人工智能技术。好比说我要去坐高铁，通过人脸识别技术让我很快就通过，这当然都是便利。但是，图像一旦被窃取，对方用它去认证，你的钱就被偷走了。

　　所以我觉得，人工智能蕴藏的潜在风险大概有三类：一是基于技术本身的风险，比如说有幻觉、自主AI系统的失控等；二是基于技术开发的风险，包括数据或隐私的泄露、算法歧视和偏见、侵犯知识产权、产生能源及环保等问题；三是基于技术应用或滥用的风险，包括社会就业问题、因深度伪造带来的诈骗等。

　　AI脱离人类掌控、反攻人类是科幻作品津津乐道的题材。AI可能有自己的思维从而进一步控制人类，您觉得这有科学依据吗？

　　薛澜：目前为止我们所看到的人工智能的系统，它都还是听我们人类管教的，都还是淳朴的。但的确如今人工智能发展日新月异，所以也有很多公司像美国的 OpenAI，还有包括很多其他公司它都在加大算力去训练人工智能系统变得更加强大等等，人工智能系统开始有更多的功能。所以也就是说，通用人工智能正在往这个方向去发展。在这样的情况下，有很多人工智能领域的专家，他们原来认为通用人工智能还是离我们很遥远的。但是，从Cheat GPT 出来以后，很多专家开始觉得可能不是那么遥远，而且他们也开始担心这个问题——会不会有一天人工智能系统它就欺骗我们，甚至不再听我们的话了。这是很多研究人工智能安全的专家们共同担心的问题。人工智能全球治理也需要“敏捷性”。大家已经意识到通用人工智能实现的可能性已经越来越大，不受人类控制的、有自主意识的系统出现的可能性也越来越大。所以我想，现在有了一个很大的改变，很多研究人工智能的技术专家认为人工智能可能有自己的思维从而进一步控制人类，这是完全有可能的。

　　当然我认为，首先是说有这种可能，但并不意味着它就一定会实现。我们人类社会应该是由我们自己来决定要不要在技术往前推进的时候，开发出更强大的人工智能系统。但这个过程当中，也同时会带来一个潜在的风险——可能会开发出欺骗人的系统。所以在这个时候，我们怎么去往前走就非常重要。

　　所以现在有一些专家认为我们现在要特别小心，我们在每一步往前推进的时候就要去做评估，主要是评估开发出这种系统的风险有多大。如果风险很大，那我们肯定不让它朝着不利于我们的方向走，我觉得这就是需要全球的专家坐下来去评判去分析，人工智能系统到底应该往什么方向走，以多快的步伐走。

　　面对“智能鸿沟”的挑战，您觉得该如何，提升人工智能国际发展与治理效能？

　　薛澜：人工智能的最终形态是怎么样的？我想回到一个核心点，我们一定要看到，人类要主宰自己的命运。最后我们要开发人工智能技术，技术能走到哪里，是我们人类自己的意愿。假设如果说我们哪一天放弃掌握自己的命运，任由这个技术的随意发展，那可能就是人类毁灭的开始。其实不光是人工智能技术，包括生命科学技术，这些技术都有可能会被滥用、误用甚至恶用。在这种情况下，万一有这一天，那就真的要天下大乱了。所以我觉得这就要我们人类更加主动地建立高效科技治理的体系，只有这样我们才能够防止走到那一天。

　　如何建立高效科技治理的体系？我觉得要从三个方面发力来提升人工智能国际发展与治理效能。首先，国际人工智能政策讨论要兼顾风险防控与创新发展。一方面，全球风险防控需要各国尤其人工智能技术落后的国家也能参与讨论和规则制定。全球创新发展需要确保发展中国家在人工智能发展带来巨大经济社会利益的过程中也能分享红利。另一方面，应致力于在联合国框架内团结全球更多元力量参与治理，推动技术开源开放、人才交流互通。让市场在算力、数据、算法的全球配置中发挥基础作用，以产业均衡促进治理协同。其次，多途径建立国际交流及防控体系，加强政府间多双边对话机制。以科学共同体力量助力国际治理机制完善，成立专门委员会和工作组，为国际治理提供智力支撑。第三，国际社会要建立落实机制，加强各国特别是发展中国家的人工智能能力建设机制，加强人工智能应用案例的全球分享机制，加强人工智能领域的国际学术交流机制，推动开展人工智能基础研究领域的合作。