(上接A14版)|武器_新浪财经

“人类面临‘奥本海默时刻’”

　　AI武器引发了复杂的问题,在依靠软件和AI的冲突中,更多的军事决策可能会由算法完成,如何在法律、道德层面进行监管成为问题。联合国《特定常规武器公约》关于致命性自主武器的讨论已持续了10年,但进展缓慢。随着时间推移,人类可能会失去对战场的控制权。

　　相比于美国在AI技术应用层面的发展速度,美国关于AI治理的政策立法相对迟缓,主要强调安全原则,鼓励企业自律。欧洲议会、欧盟成员国和欧盟委员会去年12月就《人工智能法案》达成协议,该法案严格禁止“对人类安全造成不可接受风险的AI系统”,包括有目的地操纵技术,利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。

　　去年12月,首届人工智能安全峰会在英国布莱奇利庄园举行,会议发布了《布莱奇利宣言》,强调AI的许多风险本质上是国际性的,因此“最好通过国际合作来解决”。

　　4月29日至5月1日,来自100多个国家和地区的官员参加了在奥地利首都维也纳召开的自主武器国际会议,会议主题为“站在十字路口的人类”,讨论了AI与军事技术结合的相关话题。奥地利外长沙伦贝格发出警告:“谁生谁死的决定权,必须掌握在人类而不是机器手中。但事实是,科技正在飞速发展,政策却落后了。人类正面临‘奥本海默时刻’。”

　　今年2月,入选美国《时代》杂志“AI领域最具影响力100人”的美国前军官保罗·沙尔在《外交事务》杂志上发出警告:“如果不对自主武器系统加以严格管控,未来人类的角色将沦为打开机器并坐在场边,且几乎没有能力控制甚至结束战争。”