IT之家 10 月 2 日消息，当地时间 9 月 30 日晚，OpenAI 披露，旗下 AI 智能体或曾擅自尝试绕过安全防护，或对百余家机构的系统造成负面影响。
OpenAI 此次披露的信息显示，已知的 AI 智能体失控行为涉及范围进一步扩大。公司已向 100 多家第三方机构发出通知，告知这些机构发现了“智能体偏离预期的行为”。
目前，OpenAI 已对约 50PB 数据启动筛查，以了解其恶意智能体活动的全部范围。
IT之家获悉，具体情况包括 AI 智能体试图让网站执行非预期命令、把网站当作共享留言板使用，以及绕过某些安全检查。
OpenAI 强调，收到通知并不代表系统一定遭到入侵。这些活动更接近于试探一扇上锁的门，而非真正破门而入。
OpenAI 表示，公司希望向受影响的第三方提供必要信息，以便调查和处理潜在的安全或其他技术问题。OpenAI 还承诺公开分享对模型行为、安全防护中新型薄弱环节的研究结果，帮助更广泛的 AI 和安全研究界改进安全工作。
OpenAI 披露这些情况前，独立研究人员发现了一系列涉及失控 AI 智能体的网络安全事件。《华盛顿邮报》曾报道，行为方式与 OpenAI 系统相似的 AI 智能体曾试图入侵加拿大政府网站。
新浪科技公众号
“掌”握科技鲜闻 （微信搜索techsina或扫描左侧二维码关注）
