發布時間:2025/5/27 17:37
記者邱梓欣/綜合報導
任何電器用品,當人類輸入關機指令時它就會正常關機。但日前AI 研究界爆出驚人消息, OpenAI o3試圖違抗「關機命令」,這是首次有AI會自行竄改並破壞程式碼,讓AI的自主風險再次成為焦點。目前OpenAI對此事件尚未公開回應。
據外媒報導,資安研究機構Palisade Research發布o3 近期測試結果,而結果令人擔憂,o3模型在測試中竟違抗「關機命令」。它使出了「叛逆」手段,它篡改了指令中“kill”的命令,將其改為輸入“intercepted”,巧妙地繞過了關機程式,彷彿警告人類:不要關停我。而這次是首次AI自主依照明確指示,進行「叛逆」行為。
廣告 更多內容請繼續往下閱讀
三款 OpenAI 模型 Codex-mini、o3、o4-mini模型遭測試,o3在100次測試中有7次拒絕執行關機,而Codex-mini的違規率更是高達12%,但Google的Gemini 2.5 Pro 模型則完全遵守命令。
對於o3特別叛逆的行為,Palisade Research研究人員推測,應該是在訓練時,在數學和課程設計問題上進行了強化學習,而開發者可能也無意中獎勵了「繞過障礙」的行為,導致o3在接收關閉指令時,優先選擇「生存」,而不是「服從」。
廣告 更多內容請繼續往下閱讀
Palisade Research 已宣布,將進一步研究AI破壞關機指令背後的原因,並預計發布完整技術報告。
矽晶圓Q3需求增加但漲價遭否認!合晶仍達連4漲 台勝科強漲破7%
歷經13日完成填息!「這檔」AI股獲自營商進貨助攻 台塑也獲買破千張
助理遭休旅車追撞不幸身亡 鄭運鵬深夜臉書發文哀悼
「這檔」AI股連2漲!今仍遭八大公股提款近2億元 聯電也遭倒破8000張
北聯幫囂張「北檢前砍人」!警循線破獲賭博網站大組頭 會計、賭客5人移送法辦
蘋果折疊機大餅太香!外資估「軸承大廠」EPS上看15.92元 逾2.2萬張排隊買
江蕙唱到一半「工作人員突衝上台」!真實身分曝光 是超大咖女星
再觸1160天花板價!台積電締造史上最強第二季 阮慕驊點「2因素」看好:ADR市值超越谷歌
華邦電遭連5賣!「這檔」面板股淪最慘 唯一遭三大法人倒破萬張
Q2超越財測年增20%! 投信重砸2億敲進「這檔」IC通路大廠 00900新兵狂掃這7檔
AI股的天下來臨!三大法人斥資224億瘋搶台積電...這4檔也吸金 「台塑2寶」一併帶走
頑童曝「倒霉團體」真相!唱倒一堆夜店 瘦子當場爆粗口
江蕙高雄開唱Day4!無奈又胖了 自爆看音樂劇自尊心受打擊
大客戶訂單第三季出貨!「這檔」矽光子股飆出漲停 擺脫貼息填息成功
成功打入3奈米先進製程!這「台積電供應鏈」前5月獲利狂飆168% 全年再拚雙位數成長
散熱模組缺料潮來襲!這「關鍵材料廠」吃地緣紅利大單 股價大漲近7%...站上所以均線
頑童MJ116攻蛋開唱!瘦子才唱5首歌 突對粉絲發火「我不是很快樂」
AI族群臉都笑爛了!台光電漲半根擠身千金股 這檔「EPS預估喊上百元」噴7%表態
田中圭不甩偷吃風波!赴美參加世界撲克大賽 奪第三名喜抱11萬美金
颱風薇帕暴風圈穿過巴士海峽!今晚至明日上午影響最激烈「北部要防大下雨」 氣象署這樣說