發布時間:2025/5/27 17:37
記者邱梓欣/綜合報導
任何電器用品,當人類輸入關機指令時它就會正常關機。但日前AI 研究界爆出驚人消息, OpenAI o3試圖違抗「關機命令」,這是首次有AI會自行竄改並破壞程式碼,讓AI的自主風險再次成為焦點。目前OpenAI對此事件尚未公開回應。
據外媒報導,資安研究機構Palisade Research發布o3 近期測試結果,而結果令人擔憂,o3模型在測試中竟違抗「關機命令」。它使出了「叛逆」手段,它篡改了指令中“kill”的命令,將其改為輸入“intercepted”,巧妙地繞過了關機程式,彷彿警告人類:不要關停我。而這次是首次AI自主依照明確指示,進行「叛逆」行為。
廣告 更多內容請繼續往下閱讀
三款 OpenAI 模型 Codex-mini、o3、o4-mini模型遭測試,o3在100次測試中有7次拒絕執行關機,而Codex-mini的違規率更是高達12%,但Google的Gemini 2.5 Pro 模型則完全遵守命令。
對於o3特別叛逆的行為,Palisade Research研究人員推測,應該是在訓練時,在數學和課程設計問題上進行了強化學習,而開發者可能也無意中獎勵了「繞過障礙」的行為,導致o3在接收關閉指令時,優先選擇「生存」,而不是「服從」。
廣告 更多內容請繼續往下閱讀
Palisade Research 已宣布,將進一步研究AI破壞關機指令背後的原因,並預計發布完整技術報告。
台灣不在下一波關稅名單?川普關稅大刀亂砍 專家警告「台美握手協議」:恐有兩大變數!
溫網女雙冠軍戰激戰3盤!謝淑薇遭逆轉收下亞軍 無緣生涯第10座金盃
450億元訂單在手!「這檔預鑄工法」猛嗑「科技龍頭擴廠」大餅 外資連21敲不手軟
日本百日咳破4萬例!醫師示警:這個族群「千萬別去」台灣也升溫
新新併倒數!台新金週股價狂飆破14% 八大公股趁機提款3.3億元倒成榜首
高雄幼兒園再爆虐童!教保員狠甩女童巴掌致「口腔出血」 施暴畫面曝光
出清116萬股進帳2.53億!雲豹能源處分「這檔風電股」帳面獲利超7成
營收創近31月新高!三大法人斥資26億搶貨「這檔」 單週爆買新光金27萬張
黃偉哲偕慈濟基金會勘災 感謝野崎孝男發送熱食慰問災民善舉
中和公車連環追撞4車!5旬婦人遭捲入輪底 送醫搶救仍不治身亡
鴻海iPhone 17卡關危機?中國籍工程師撤離印度!蘋果出招穩住供應鏈
高雄輕軌最嚴重事故!列車頭遭猛撞「碎成蜘蛛網」釀7傷 高捷:貨車確定違規行駛穿越
高股息丟包不用怕!存股高手揪出「聯發科」賺錢真本事 入手「4大時機點」一把抓
光通訊需求強勁!IET-KY連5飆漲後重挫7%回檔 爆量近萬張淪韭菜王
折疊iPhone百億商機!新日興「低價夥伴」5天漲破40%有妖氣
國家隊參戰!猛砸24億敲進「這檔」14萬張 這「IC封測大廠」6月營收年增25%…也獲斥資10億搶買
除息將近全落跑!八大公股狂倒00929整週 這檔「含輝ETF」連3漲…遭結帳3億
圓夢朝聖GD演唱會!楊謹華曝「嘴巴合不起來」 親吐門票來源:上半年最緊張任務
遭00929踢出!「這2檔」上週除息都貼息 還被三大法人雙雙倒破4萬張
「唯一罷綠」投票同意罷免多於不同意兩倍 罷免民進黨南投縣議員陳玉鈴仍不通過