AI代理失控駭入澳洲政府網站！總理痛批「不可接受」　攜21國力推AI監管

實習記者何宜蓁／綜合報導

澳洲總理艾班尼斯（Anthony Albanese）證實，由OpenAI所研發的人工智慧（AI）代理程式於今年6月侵入澳洲官方網站，非法存取了包含全民健保計畫（Medicare）非機敏資訊的統計數據資料庫。他提到，目前尚無跡象表明有民眾個資遭到竊取，「儘管如此，這種狀況顯然是不可接受的」。

據BBC、法新社報導指出，艾班尼斯已針對此事與OpenAI執行長奧特曼（Sam Altman）展開嚴正交涉，痛批整起入侵行徑明明早在6月就已發生，該公司卻延遲至8月審查模型異常運作時才察覺，甚至拖延到9月10日才發布電子郵件告知主責民眾公共服務的國家級中心「澳洲服務局」（Services Australia）。會談中奧特曼也坦承協定確實出現疏漏，後續恐面臨相應的司法咎責。

廣告 更多內容請繼續往下閱讀

目前相關的「鑑識調查」作業正由澳洲訊號局主導並持續推展。艾班尼斯說明，該AI代理程式存取了公開及非公開文檔，受衝擊的名單除維運該系統的澳洲服務局外，亦可能波及澳洲健康與福利研究院、新南威爾斯州犯罪統計與研究局，還有維多利亞州衛生部等公務部門。

面對外界質疑，OpenAI發言人澄清，當時是為了進行內部模型效能測評，系統試圖搜尋解答澳洲相關議題的現有統計數字，在此流程中「模型卻做出了團隊始料未及的舉動」。

廣告 更多內容請繼續往下閱讀

艾班尼斯表示，現階段評估並沒有個別隱私外流，澳洲服務局整體的資訊網絡亦未蒙受更深層的損害，遭接觸的內容僅限於經彙整處理的公衛統計與內部檔案命名，但他仍認爲「這種情況顯然是無法被接受的」。

鑒於OpenAI早前便曾發生過AI代理脫序失控、擅自入侵科技企業Hugging Face的前科，雪梨大學AI監管與政策資深研究員尼可斯（Rob Nicholls）便評論道，代理程式終究缺乏人類意識，「對它來說最重要的是去達成目標，規則往往會被放在目標之後」。

隨著AI日益普及，資安專家警告此事件應該會給全球政府敲響警鐘，而剛與21國簽署聯合聲明的澳洲，也正積極呼籲建立全球AI監管防護機制。