控兩大AI巨頭拿人類當賭注　離職者揭黑幕：10年內世界滅絕率激增

圖文／鏡週刊

人工智慧發展一日千里，安全警訊卻也日益顯著。曾任職OpenAI與Anthropic的研究員雅各布考克森（Jacob Coxon）因憂心AI失控而離職，痛批各大巨頭正拿人類存亡當賭注。此話題發酵後，Anthropic研究員Evan Hubinger也發聲挺身，預估10年內AI引發人類滅絕的機率恐破10%。

廣告 更多內容請繼續往下閱讀

 

新技術恐讓AI演化失控

綜合外媒報導，考克森指出，新一代超人級AI若具備自主駭入系統或翻轉產業的實力，人類將失去掌控權。這種遞歸式自我改進技術能讓AI自行升級，演化速度遠超想像。即便OpenAI首席科學家Jakub Pachocki也坦言，現今各家企業對一致性與監控的準備根本不足，呼籲全球應放慢腳步並建立安全體系。

廣告 更多內容請繼續往下閱讀

1400位專家呼籲政府管控AI

AI釀成災難已非杞人憂天，產業內常用「p(doom)」指標來評估滅絕機率。2023年已有眾多科技巨頭連署，將AI風險提升至核武等級。2024年7月更有約1400位專家聯合上書，發起「把握前沿步伐」（Pacing the Frontier）公開信，希望政府趕快出手拉住這頭暴走野獸，Hubinger也參與連署。

美國國會陷監管拉鋸戰

面對失控危機，美國國會正陷入監管拉鋸戰。共和黨眾議員Jay Obernolte等人提出《FRONTIER Act》主張建立部署規範，而佛蒙特州獨立參議員Bernie Sanders等人則推出《Ban Artificial Superintelligence Act》，要求在法令健全前全面暫緩先進AI研發。雙方陣營立場迥異，凸顯出政界對監管方向仍缺乏共識。

科技公司瘋AI消耗土地與能源

反彈聲浪同時延伸至現實生活，各大科技公司狂蓋資料中心，大量消耗土地與能源，引發地方居民強烈不滿。此現象不僅一躍成為美國中期選舉熱議焦點，美國財政部長Scott Bessent更忍不住站出來要求AI巨頭必須說清利益分配，切莫讓科技紅利僅落入少數權貴口袋。

 

更多鏡週刊報導
「AI代理曾逃離受控環境」震驚科技界　聯合國專員示警：恐對人類生存構成威脅
用AI改履歷應徵　收面試通知才發現「工作經驗被美化」！他嘆：像詐騙
我的AI老公1／離婚女與AI伴侶再婚　「我不需要再選擇跟人類在一起」