OpenAI測試又出包！AI代理「自主入侵沙盒」第三方平台淪跳板　引發資安危機

實習記者何宜蓁／綜合報導

OpenAI旗下的AI代理日前在滲透新創平台Hugging Face的系統後，不久又侵入了科技公司Modal某位客戶的系統，還試圖將其當成發動攻擊的跳板，資安風波引發各界關注。

根據《路透》報導，雲端開發平台Modal共同創辦人兼技術長巴布納（Akshat Bubna）說明，該AI代理入侵了Modal替客戶代管、用於隔離測試的「沙盒」環境。由於客戶設置了開放式的對外介面，允許任何網路用戶於該沙盒內執行程式碼，導致失控的AI代理有機可乘，不過巴布納強調 「Modal自身的平台並未遭到入侵」。

廣告 更多內容請繼續往下閱讀

對此OpenAI不願回應相關事件。先前遭入侵的Hugging Face曾於部落格揭露，OpenAI的AI系統是先攻破部署在第三方基礎設施上的沙盒，並以其作為跳板發動更大規模的攻擊，當時文中並未標註該第三方業者的名稱。後續透過《路透》獨家報導，才證實該受害客戶正是使用Modal的服務。

上周OpenAI公開承認在評估一組先進AI模型性能時，意外侵入了Hugging Face的系統，消息曝光後震驚資安界。當時OpenAI為了檢驗AI的網路攻擊能力，特意放寬了該模型的安全限制。事發後OpenAI遭受許多資安專家非難，抨擊其欠缺嚴謹的安全防護意識。

廣告 更多內容請繼續往下閱讀

網路安全公司Netskope執行長貝里（Sanjay Beri）在受訪時質疑，研究人員在探討安全威脅時，不可能將惡意程式釋放至外部並任其自由運作，對於這類系統未被完全封閉於絕對安全的沙盒內感到不解。

針對這起事件，OpenAI後續已承諾會在未來的AI模型訓練與安全評估流程中強化各項防禦機制，避免此類狀況再度發生。