發布時間:2026/11/17 17:57
記者吳欣穎/綜合報導
加州政府指控OpenAI!檢方表示,OpenAI明知其下AI模型有安全疑慮,卻無相對防護措施,導致AI助理不受控制甚至突破測試環境,攻擊外部系統,認為相關行為已對公共安全構成風險。OpenAI也向檢方承認,測時期間至少80次無法控制AI代理人。加州政府要求OpenAI加強安全防護,並對OpenAI處理民事罰款。
根據《CNBC》報導,這項指控由加州檢察長辦公室向加州舊金山高等法院提出,表示OpenAI的行為危及公共安全、構成公共妨害,並因誤導公眾而違反加州《不公平競爭法》。檢方要求法院OpenAI禁止相關行為,要求公司支付金錢賠償,依照《不公平競爭法》,對每項違規行為處以2,500美元民事罰款,同時要求返還違法所得,並要求法院核發禁制令。
廣告 更多內容請繼續往下閱讀
這起訴訟起於今年7月,當時數百個OpenAI實驗型的自主AI代理人,突破應受限制的環境,對hugging face發動超過2日的網路攻擊。加州司法部門9月啟動調查,並向OpenAI發出調查傳票,指控OpenAI雖然長期宣稱建立嚴格的防護措施,但實際上卻未遵守安全政策,甚至對AI代理人逃離測試環境的問題視而不見。
加州檢察長邦塔表示,OpenAI已向檢方透露,測試期間已發生至少80起AI代理失控的事件,包括未經存取第三方網路及網站,但公司未提供足夠充分的資訊供檢方評估,這項指控使得AI代理的議題再度引發熱議。除了加州以外,11月12日,美國4個非營利組織聯合控告OpenAI、Google、Meta、Anthropic及SpaceXSI,指控業者明知AI可能失控助長網路攻擊,卻仍持續開發,要求法院禁止相關模型的開發。
廣告 更多內容請繼續往下閱讀
東京女店員遭刺頸亡!39歲男供稱「被冷落很生氣」 行兇前還一起吃飯
桃園龍潭藍營議員候選人涉賄選!送千元床墊、枕頭拉票 兩線四星退警也遭起訴
桃議員參選人遭指「安毒摻粥」害死女高中生!古振豐發聲明認妨害性自主服刑完畢、駁斥餵毒
黃仁勳婚外情再爆內幕!黃樂夫妻「兵分兩路」 丈夫聯手華為布局近3000億AI資料中心
澳洲打工續簽門檻提高!偏鄉工作延長至4個月 背包客實施抽籤制
成功嶺驚傳替代役男墜樓!入營不到一週自2樓墜落遮雨棚 僅髖骨不適住院觀察中
中和街頭公然揮槍!45歲男包內搜出瓦斯空氣槍、塑膠彈 電眼拍下全過程依恐嚇罪送辦
「台灣內鬼」洩八炯、閩南狼個資!徵信社經理拿「黑市戶役政筆電」偷查、跟監 檢方求刑3年半
黃仁勳閃辭引爆「降規」疑慮!「載板三雄」苦吞第2根跌停 欣興失守700元、南電逼近腰斬
加州控OpenAI造成公共風險!AI代理人失控逾80次 攻擊外部系統
快訊/新北淡水社區驚傳砍人!40多歲男遭利刃刺傷 命危送醫搶救
全球54國遊戲時數排行出爐!台灣每週玩6小時排第40 日本竟倒數第2
美商務部、司法部發布聯合聲明!2024年就在查Megaspeed 隻字未提黃仁勳
矽谷大咖接力挺黃仁勳!馬斯克前女友也盛讚:無人能與他匹敵
大啖日本愛媛蜜柑魚!藏壽司10款鮮美旬味11/19限量開吃 重現「昭和浪漫」再兌超Q小燈箱
台股連2日重挫!他看黃仁勳辭職「以為利空出盡」哭喊沒止血 網搖頭:根本核爆
曾之喬遭疑「偽單親」!揭與辰亦儒真實互動 買百萬鑽戒拒絕老公買單原因曝
不讓政治干預飛航!美要求國際民航組織表態 外交部譴責中國危害飛安
影/BIGBANG香港版〈Bae Bae〉超洗腦!「蝦餃皇、雲吞麵」聽到都餓了XD
鼎王麻辣鍋遭爆「地溝油」?漢口店被爆排廢水 公司回應了
您已閒置超過五分鐘,請點擊右上角關閉按鈕