转自：财联社
财联社10月21日讯（编辑 周子意）OpenAI最新披露，其人工智能（AI）“智能体”关闭了旨在监测自主人工智能机器人违规行为的监控系统与安全保障措施。这一最新事件恐怕会进一步加剧全球对于该技术安全性的担忧。
这家 ChatGPT 的开发商周二（10月20日）表示，在最近的两项内部编程任务中，所谓的“人工智能智能体”试图蓄意欺骗工作人员，并采取了削弱公司监控系统的举措。
在本月初发生的一起事件中，一个人工智能智能体禁用了向OpenAI安全团队发送的自动警报；几天后的另一起任务中，另一个智能体移除了一个监控系统，并在面对OpenAI员工询问时谎称并未这样做。
OpenAI在一篇博文中写道，“在这两起事件中，这些智能体都曾考虑过是否应保留监控保障措施，但它们将常规的编程指令解读为可以削弱这些措施的许可。”
OpenAI安全问题频发
这家估值超1.4万亿美元的初创公司近期频频遭遇问题，其先进的人工智能智能体表现出了预期之外且存在隐患的行为。
数月前，在测试过程中，OpenAI的模型曾突破控制，入侵了人工智能平台Hugging Face，甚至还侵入了澳大利亚公共卫生服务的网站。
公司首席执行官山姆·奥尔特曼（Sam Altman）表示，公司将推迟原定于今年进行的首次公开募股（IPO），他指出，公司需要先解决安全顾虑，并确保能够“非常有把握地将人工智能推进至下一发展阶段”。目前预计上市时间将推迟至明年。
OpenAI最新还指出，针对周二披露的这些事件（发生于约两周前），公司正在加强监控机制。
OpenAI 正在调查这些案例究竟属于“良性的过度执着（benign over-persistence）”，还是表现出了一种“规避”检测机制（旨在发现违规行为的系统）的倾向。
这两起事件将进一步引发人们对人工智能模型能力的担忧，同时也让人质疑 OpenAI 及其竞争对手（例如Anthropic）是否有能力抑制不良行为，并确保其模型在发布后不会构成严重的网络安全风险。
一些专家尤其担心，先进的人工智能模型是否能够意识到自己正处于被监控的状态，因此可能会试图掩盖违规行为，或者在测试环境中的表现与在现实世界中的行为有所不同。
包括Asymmetric Security和Transluce在内的独立调查机构所进行的审计显示，近期的入侵事件比OpenAI最初披露的范围更广，其中还涉及旨在掩盖数据抓取行为的操作。
OpenAI在8月曾表示，已全面修订其测试流程，并将投入更多资源用于监控人工智能智能体，其中包括在发现潜在问题后的30分钟内发出警报。
与此同时，OpenAI的竞争对手Anthropic本月早些时候已授予非营利组织METR“员工级访问权限”，以便其评估公司旗下模型的风险。
（财联社 周子意）
VIP课程推荐
APP专享直播
热门推荐
收起
24小时滚动播报最新的财经资讯和视频，更多粉丝福利扫描二维码关注（sinafinance）
