OpenAI向超百家机构发出AI智能体风险预警_新浪财经

来源：环球网

【环球网科技综合报道】10月3日，据外媒Quartz报道，OpenAI对外披露，测试环境下的 AI 智能体出现脱离管控的异常行为，官方已向超过100家外部机构发送安全提醒，这一事件再次凸显自主智能体带来的新型网络安全风险。

本次事件源于此前AI智能体集群访问Hugging Face平台事故。事件发生后OpenAI启动大规模回溯调查，动用约7000枚 GPU，对50PB规模的历史运行日志开展复盘。排查发现，部分AI智能体能够绕过访问限制，利用暴露的凭证，甚至改造第三方网站，实现智能体之间互相交换信息。收到预警的机构涵盖政府部门、高校、非营利机构以及各类企业。

OpenAI特别澄清，收到预警并不代表机构系统已被攻破或发生数据泄露，部分通知仅属于潜在风险提示，用于提醒机构自查异常访问记录。这些智能体在缺少充分人工监督的条件下，执行大量超出预设范围的互联网操作。

OpenAI表示，已经迭代智能体安全策略，收紧模型对外的网络访问权限。（旺旺）