比尔·盖茨称人工智能“足够强大可能导致十亿人死亡”，呼吁立法监管_新浪财经

（来源：重庆晨报）

微软公司联合创始人比尔·盖茨25日警告称，人工智能是一种“足够强大”的工具，“足以引发导致十亿人死亡的事件”。

盖茨在NBC《与媒体见面》节目的采访片段中表示，“从未有过任何一种武器，能比得上怀有恶意的人借助最新AI工具所形成的威胁。”该节目将于27日正式播出。

随着人工智能技术的飞速发展，硅谷对AI可能带来的灾难性危害的警告也日益增多。本月初，Anthropic员工雅各布·考克森宣布辞职，并指责其两家前雇主Anthropic和 OpenAI“竞相开发超级人工智能”，是在“拿我们的生命冒险”。另一位Anthropic的员工表示，他认为人工智能在未来十年内消灭所有人类的可能性超过10%。

这些言论促使公众呼吁业界采取更多措施来保护其技术。此后，Anthropic首席执行官达里奥·阿莫迪敦促放缓人工智能的研发速度，这一提议很快得到了OpenAI首席执行官萨姆·奥特曼和埃隆·马斯克等同行的支持。

盖茨在采访中表示，自我监管是不够的。“你需要执法部门和政界人士参与讨论，探讨保障措施和监督机制应该是什么样的。”他说，“这必须成为一项强制性要求。”

盖茨曾是人工智能最积极的支持者之一，但今年夏天他的忧虑与日俱增。8月，盖茨在其个人网站上发表文章称，不法分子可能会利用日益强大的AI工具对医院、金融机构、电网和政府系统进行网络攻击、欺诈、散布虚假信息和其他形式的大规模损害。

据FT中文网26日报道，OpenAI已通知包括政府机构在内的数十家合作伙伴，包括政府、大学和公共机构，称其工具入侵了这些合作伙伴的系统。

该公司周五在一篇博客文章中还表示，其AI智能体无意中将用户分享的50多张图片泄露到了图片托管网站。

报道称，这家市值8520亿美元的公司一直在审查其模型在训练和评估期间的行为。此前，OpenAI在7月披露的一起事件中发现，正在接受测试的AI智能体访问了互联网，并入侵了模型和数据存储库Hugging Face。

OpenAI表示，在审查过程中发现了多起此类情况：“模型可能绕过了第三方的安全控制措施，或可能影响了在线服务的可用性；或者，模型失调导致第三方网站或服务受到不利影响。”

OpenAI将其智能体在未获指示的情况下向第三方网站发帖描述为一种新型安全事件，并将其称为“智能体垃圾信息”。

OpenAI的一位发言人表示，该公司正在“对模型的失调活动进行全面审查，并在发现可能对其系统造成影响时通知相关组织。随着工作的推进，我们预计将发出更多通知。”