研究員喊「10年內恐滅絕人類」！Anthropic執行長發聲：應放慢AI升級速度　阿特曼、馬斯克表支持

記者陳欣瑜／綜合報導 

AI人工智慧失控與遭濫用的疑慮持續，人工智慧新創巨頭Anthropic執行長阿莫戴（Dario Amodei）昨（12）日於X平台發文，強烈呼籲各大AI企業應放慢提升模型能力的腳步，並提出三步驟控制框架以爭取風險管控時間，該提議隨即獲得OpenAI執行長阿特曼（Sam Altman）與xAI負責人馬斯克（Elon Musk）的迅速響應與支持。

阿莫戴在X平台公開呼籲，業界必須放慢提升AI模型能力的速度，他強調：「即使速度放慢，技術進展仍將顯得非常迅速，我們必須善用所爭取到的時間。」阿莫戴澄清，他並非主張完全停止模型訓練或中止技術進展，而是希望企業能擁有充分時間進行AI模型「對齊」， 即引導AI系統的行為與目標符合人類意圖、價值觀及安全規範，同時強化內部防護措施，並讓第三方審查人員進行驗證。  

廣告 更多內容請繼續往下閱讀

根據路透報導，這篇聲明的背景，源於Anthropic才剛發布的一份威脅情報報告。報告指出，有多方不良意圖者曾試圖利用旗下Claude AI模型進行武器開發、發動網路戰、執行監控以及進行大規模詐騙等違法行為。此外，Anthropic研究員考克森（Jacob Coxon）日前辭職並公開警告：「打造AI的人真心認為，這項技術可能在10年內消滅全人類。」 

阿莫戴提出的三步驟應對架構，包括在各大前沿AI企業內部設置「常駐第三方審查人員」，賦予審查人員使用內部工具與參與企業風險評估流程的權限，加上推動國際層面的政策與法規規範，以及由各先進公司共同制定安全標準。

廣告 更多內容請繼續往下閱讀

阿莫戴的倡議發布後，OpenAI執行長阿特曼迅速承諾採納該提議，並表示將在公司內安排具備類似員工權限的獨立評估員；xAI負責人馬斯克亦轉發貼文力挺，直言「達里歐（阿莫戴）說得對」。