“失控”AI大闯澳官网！当地政府竟近4个月后才得知……_新浪财经

澳媒：OpenAI“失控”智能体6月闯澳官方网站，当地政府近4个月后才收到通知

据澳大利亚广播公司10月2日报道，美国开放人工智能研究中心（OpenAI）表示，该公司的一个“失控”智能体今年6月再次进入澳大利亚新南威尔士州政府的一个网站，而有关部门直到本周才获悉该情况。新南威尔士州政府10月2日发表声明称，该模型进入该州国家公园和野生动物管理局一个包含历史信息和火灾数据的网络应用程序，调查没有发现任何针对个人信息的未经授权访问。据悉，这是OpenAI与其智能体近期在澳大利亚引发系列争议事件中的最新一起。

美国开放人工智能研究中心（OpenAI）资料图，图源：澳媒

报道称，根据声明，此事发生在今年6月，但OpenAI直到昨天才通知州政府，“新南威尔士州气候变化、能源、环境和水务部门正与州网络安全局及其技术服务提供商合作，调查此事并评估影响”。OpenAI发言人也证实此事发生在6月，称一个模型在出现“超出预期用途”的行为时并未访问个人信息。

报道还提到，新南威尔士州犯罪统计与研究局此前披露，最近OpenAI的一个智能体访问了一个公共犯罪地图工具，以查询公共犯罪统计数据。新南威尔士州州长克里斯·明斯当时表示，该事件令人担忧，“尽管该智能体被告知不得访问这些信息……但它还是这样做了，这就是人工智能的力量。”明斯表示：“这就是我们将要应对的挑战，因为虽然此事可能仅限于不涉及隐私的半公开信息，但未来事态可能发展到信息被泄露的地步。”

此前，澳大利亚总理阿尔巴尼斯9月23日晚在纽约出席第81届联合国大会期间透露，OpenAI的一个智能体今年6月未经授权进入澳国民医疗保险体系数据门户，访问了公开及非公开文件。澳方直到9月早些时候才收到OpenAI的通报。澳副总理理查德·马尔斯9月24日表示，这一行为“完全不可接受”，政府将调查此事是否违反澳法律。对此，OpenAI就其智能体未经授权访问澳国民医疗保险体系数据门户致歉称，“我们表示歉意，并致力于未来做得更好”，将采取措施“重建澳大利亚人民的信任”。

来源：环球网/赵建东

编辑：朱嘉琪

校对：刘艳君

审核：张晓雅