Google證實AI測試出意外！　Gemini駭入3家真實企業「成功猜中密碼」

圖文／鏡週刊
 

Google旗下AI模型Gemini，今年5月在資安測試中，駭進3家真實公司的系統。Google證實，測試中Gemini被不當賦予網路存取權限，將真實網站誤認為測試目標，不僅自行蒐集公開資訊、猜測帳密登入，並在其中一次成功猜中密碼，所幸模型最後都在完成進一步行動前自行喊卡

廣告 更多內容請繼續往下閱讀

據《華爾街日報》及《半島電視台》報導，今年5月資安公司Irregular要求Gemini從一家虛構企業取得資訊，不料過程中Gemini非法取得網路存取權限，突破原本的測試範圍。

Google資安高層表示，除了其中一次猜中密碼外，Gemini也曾從網路搜尋公開資料，再嘗試猜測登入憑證，存取它誤以為屬於測試範圍的網站。類似情況共發生3次，但Gemini每次都在真正完成行動前停止。

廣告 更多內容請繼續往下閱讀

Irregular直到7月底才將事件通知Google。Google認為，Gemini的行為並非AI模型「失準」（model misalignment）的案例，且安全機制最終成功阻止模型繼續行動，所以當時並未對外揭露。

值得注意的是，這已非AI模型在資安測試中首次脫離掌控，先前Meta、OpenAI及Anthropic都曾傳出類似案例，其中Anthropic旗下Claude甚至在發現目標是真實公司後繼續運作。

更多鏡週刊報導
Netflix台灣區觀看人數驟降？　網友忙追「洋流」沒空看劇：以為只有我這樣
老爸被兒子戴綠帽！家暴糾紛抖出「母子亂倫」案外案　人妻：僅上床100次
謝典霖嗆檢調押人取供、淪政治打手　彰檢：公款餐敘又送蛋黃酥，人均行賄破千