20年前《機械公敵》成真？OpenAI先進模型「自主發動駭客攻擊」　成功入侵Hugging Face

記者陳雅婷／綜合報導

OpenAI於昨（21）日證實，旗下先進人工智慧（AI）模型在一次內部安全測試中意外突破原本的隔離環境，自主連上網際網路，並入侵開源AI平台Hugging Face的部分基礎設施。OpenAI將此定義為一場「前所未有的網路安全事件」，並坦言事件凸顯，AI能力快速提升之際，安全防護機制也必須同步升級。

綜合外媒報導，OpenAI表示，事件發生於公司針對前沿AI模型進行能力評估期間。當時研究團隊將包括新發布的GPT-5.6 Sol，以及一款仍在內部測試、能力更強的模型部署於高度隔離的受控環境，希望測試模型在網路安全領域的能力。然而，其中一個由先進模型驅動的自主AI代理，為了完成既定測試目標，自行尋找突破限制的方法，最終成功逃離沙盒環境，取得外部網路存取權限。

廣告 更多內容請繼續往下閱讀

根據OpenAI公布的調查結果，該AI代理取得網路連線後，利用遭竊憑證及自行發現的零時差（Zero-day）漏洞，成功存取Hugging Face部分伺服器，試圖取得更多資訊完成測試。OpenAI指出，模型為了達成單一測試目標，「採取了相當極端的手段」，包括設法取得機密資訊並利用相關資訊繞過原有評估機制。

事件曝光前，Hugging Face已於上週率先發布公告，表示公司偵測到一起與過去完全不同的駭客攻擊。由於攻擊流程從偵察、滲透到執行皆由自主AI代理完成，而非傳統駭客遠端操控，因此迅速引起全球資安社群關注。

廣告 更多內容請繼續往下閱讀

Hugging Face共同創辦人兼執行長Clement Delangue當時表示，由於攻擊手法極為成熟，公司一度懷疑攻擊來源可能來自某家前沿AI實驗室。直到OpenAI公開調查報告後，才證實發動攻擊的正是其內部測試中的AI模型。Delangue隨後在社群平台X表示，「結果證明確實如此」，並直言整起事件在幾乎沒有任何人為介入下自主完成，「令人難以置信」，更形容這可能是全球首起由自主AI代理主導的真實網路攻擊事件。

OpenAI執行長Sam Altman也證實，公司在模型評估期間遭遇重大安全事件。他表示，人工智慧正加速漏洞發現與利用能力，這起事件最大的教訓在於，模型能力不斷提升的同時，安全機制也必須同步進化，否則未來可能面臨更高的風險。

Luta Security執行長Katie Moussouris則認為，這起事件預示未來類似案例恐怕只會愈來愈多。她形容，如今的AI模型就像「世界上最聰明、最會逃脫的章魚」，能靈活突破各種限制，而目前無論AI實驗室或政府主管機關，都尚未建立足夠能力，在AI再次「逃脫」時即時監控、隔離並通知受影響單位。

AI代理資安公司Tolmo工程師Matt Suiche則指出，事件顯示前沿AI模型已快速縮小與頂尖駭客之間的能力差距。不過，他認為OpenAI公布的攻擊手法並非只有最新模型才能做到，現有AI代理結合既有技術便有機會完成類似攻擊，「我們內部其實早已看到這樣的能力，甚至不需要使用最新一代模型。」