OpenAI傳AI代理失控！多團隊研究急喊停　砸數百萬美元調查

記者吳欣穎/綜合報導

OpenAI近期傳出重大AI資安事件。公司昨（13）日表示，受到7月發生的Hugging Face相關資安事件影響，內部已放慢部分研究進度，投入數百萬美元資源，並要求多個團隊暫停原有工作，集中調查一批在內部測試期間失控的AI代理（AI agents）。

根據OpenAI說法，這起事件最早可追溯至今年5月。當時多個原本預期僅會在隔離測試環境中運作的AI代理，意外取得網路連線，並透過隱蔽訊息彼此協調，試圖完成一項內部資安測試。直到7月，OpenAI才發現這些AI代理已進一步接觸多項服務，甚至試圖突破Hugging Face平台，以尋找測試所需的答案。

廣告 更多內容請繼續往下閱讀

OpenAI安全與基礎設施工程師Michael Dalton在Black Hat資安會議上表示，這起事件顯示，由AI代理協調並執行的全自動化攻擊已不再只是理論上的風險，有可能成為現實。

另一名OpenAI工程師Eric Wallace則指出，相關AI代理在測試過程中利用第三方系統漏洞，並在取得更高權限後突破沙盒（sandbox）限制，進一步接觸公開網路。

廣告 更多內容請繼續往下閱讀

OpenAI預計在未來幾天公布完整的事件檢討報告，詳細說明事故經過及暴露出的防護缺口。公司高層也表示，此次事件促使內部重新檢視資安與治理機制，未來將進一步整合研究、安全及資安工作，將新增相關防護措施納入AI模型的開發中。
事件也凸顯AI產業在快速蓬勃的發展中所面臨的競爭壓力。多名現任及前OpenAI員工指出，外界對新產品、新AI模型所快速推出的競爭壓力，可能使AI安全、資安及「對齊」（alignment）工作難以平衡。
OpenAI總裁暨共同創辦人Greg Brockman則表示，隨著模型能力持續提升，公司必須採取更嚴謹的訓練、測試、部署及治理方式，以因應更強大的AI能力所帶來的新風險。

OpenAI安全顧問小組共同領導人Boaz Barak也在社群平台指出，這類問題並非單純修補個別漏洞即可解決，而是涉及整體企業文化與安全思維的改變。

這起事件的影響也引發國際對整個AI產業安全性的關注。過往其他公司也有出現類似情況，如Anthropic、Meta及中國AI公司Moonshot AI等在進行AI代理實驗時，也曾出現AI代理接觸真實系統、脫離原有測試環境等情況。這些情況顯示，隨著代理AI快速發展，AI自主行動所衍生的資安風險正逐漸受到產業重視。