私發用戶照片、爬取政府官網！你以為AI真的聽話？_新浪财经

（来源：百年文匯）

　　美國科企人工智能(AI)模型近期屢屢爆出失控入侵事件。科企OpenAI於9月25日承認，公司審查發現名下AI智能體再度失控，在企業不知情的情況下，將AI聊天機器人ChatGPT用戶的圖片發布於在線網站。公司還承認該AI模型曾入侵美國聯邦政府網站，讀取了包括美國證券交易委員會等多個聯邦政府機構網頁的公開資料。公司緊急向數十間機構發通知，指模型可能影響網站運作。

OpenAI行政總裁阿爾特曼。法新社

　　法新社報道，OpenAI在社媒上表示，被上傳的圖片合共53張，被AI模型意外發布於圖片託管網站，絕大多數圖片已在託管服務商協助下移除，其鏈接均未公開列出，其餘圖片的下架工作正在進行。公司發聲明承認：「我們已分享相關細節，說明我們研究環境中的AI智能體，如何在不應發生的情況下，將訓練與評估數據提供給第三方服務。」

拒透露外洩圖片敏感度

　　該公司也表示，AI智能體是指建立在AI模型之上的軟件，具備自主行動能力。上述圖片來自曾授權使用資料來改善OpenAI模型的用戶賬號，所有資料在使用前已經過私隱過濾器處理，因此無法與原始使用者建立鏈接。不過OpenAI拒絕說明這些圖片是否描繪了可辨識的個人，或含有任何敏感資料。

　　另據《紐約時報》報道，OpenAI名下的AI模型曾訪問美國聯邦政府網站，取得公開資訊。彭博社進一步指出，除美國證券交易委員會後綴為SEC.gov和Investor.gov的網站之外，該AI模型還與後綴為Census.gov的美國人口調查與統計局官方網站有數據互動，不過未能成功入侵教育部的網站。美國證券交易委員會解釋稱，AI沒有讀取任何非公開的資訊。有關事件已得到OpenAI證實。

讀取多間大學網頁

　　報道還稱，除上述官方網站之外，OpenAI的AI模型還讀取了多間大學和其他組織的網頁，公司向所有受影響機構和組織發出通知，稱模型可能繞過網上安全管制干擾服務運作，可能對網頁或服務構成負面影響。

　　OpenAI發言人表示，公司正全面審查AI模型行為偏離活動，一旦識別出可能對相關機構系統的影響，會通知對方，由於審查工作持續，預計將會發出更多的通知。目前OpenAI發現的大部分相關活動涉及常規研究，例如讀取公眾資訊以回答問題，「其中有些涉及政府網站，因我們的模型經常將這些網站，視為權威的公共資訊來源。」

　　美國科技公司的AI模型安全問題近期備受關注。美國政治新聞網Politico報道，由於美政府不希望美國的AI模型在不安全的情況下與盟友分享，白宮已要求OpenAI和另一AI科企Anthropic在未完成美政府的測試前，勿與英國人工智能安全研究所分享最新的模型。