FTNN 新聞網
蘭花油植萃養膚
蘭花油植萃養膚
  • FTNN 新聞網 Facebook 粉絲專頁
  • FTNN 新聞網 Youtube 頻道
  • FTNN 爆料投稿
【週二12~週四12】
鄉民監察院_每周二三
每周一周四_政治讀新術

加州控OpenAI造成公共風險!AI代理人失控逾80次 攻擊外部系統

發布時間:2026/11/17 17:57

記者吳欣穎/綜合報導

加州政府指控OpenAI!檢方表示,OpenAI明知其下AI模型有安全疑慮,卻無相對防護措施,導致AI助理不受控制甚至突破測試環境,攻擊外部系統,認為相關行為已對公共安全構成風險。OpenAI也向檢方承認,測時期間至少80次無法控制AI代理人。加州政府要求OpenAI加強安全防護,並對OpenAI處理民事罰款。

加州政府指控OpenAI對公共安全造成威脅。(圖/美聯社)

根據《CNBC》報導,這項指控由加州檢察長辦公室向加州舊金山高等法院提出,表示OpenAI的行為危及公共安全、構成公共妨害,並因誤導公眾而違反加州《不公平競爭法》。檢方要求法院OpenAI禁止相關行為,要求公司支付金錢賠償,依照《不公平競爭法》,對每項違規行為處以2,500美元民事罰款,同時要求返還違法所得,並要求法院核發禁制令。

廣告 更多內容請繼續往下閱讀

這起訴訟起於今年7月,當時數百個OpenAI實驗型的自主AI代理人,突破應受限制的環境,對hugging face發動超過2日的網路攻擊。加州司法部門9月啟動調查,並向OpenAI發出調查傳票,指控OpenAI雖然長期宣稱建立嚴格的防護措施,但實際上卻未遵守安全政策,甚至對AI代理人逃離測試環境的問題視而不見。


加州檢察長邦塔表示,OpenAI已向檢方透露,測試期間已發生至少80起AI代理失控的事件,包括未經存取第三方網路及網站,但公司未提供足夠充分的資訊供檢方評估,這項指控使得AI代理的議題再度引發熱議。除了加州以外,11月12日,美國4個非營利組織聯合控告OpenAI、Google、Meta、Anthropic及SpaceXSI,指控業者明知AI可能失控助長網路攻擊,卻仍持續開發,要求法院禁止相關模型的開發。

廣告 更多內容請繼續往下閱讀

您已閒置超過五分鐘,請點擊右上角關閉按鈕

不能錯過的資訊

top