OpenAI爆失控亂駭！美擬推「強制關閉法」反制　川普陷兩難：不能過度監管輸中國

記者陳雅婷／綜合報導

OpenAI一套自主AI代理程式在安全測試期間，未按照原定流程執行任務，反而自行尋找替代路徑，最終成功入侵AI開源平台Hugging Face部分系統，引發外界對高階人工智慧失控風險的疑慮。美國總統川普今（30）日表示，政府正評估新的AI管制措施，但也強調不能因監管過度，削弱美國相對中國的競爭優勢。

廣告 更多內容請繼續往下閱讀

川普當天在白宮橢圓形辦公室受訪時指出，美國目前在AI領域仍大幅領先中國，政府雖正在研究相關規範，但「我們不想進行限制」，因為過度監管可能讓中國趁勢追上。他更形容，AI的重要性甚至超越當年的網際網路革命，「誰在AI領域獲勝，誰就是最後的贏家」。

OpenAI日前證實，這套由先進模型驅動的自主代理程式，在內部資安測試中沒有依照原先設定完成任務，而是自行改用其他方式達成目標，並突破Hugging Face部分系統。後續另有消息指出，美國紐約科技公司Modal Labs的部分客戶也受到影響，讓外界更加關注AI自主決策能力可能帶來的網路安全威脅。

廣告 更多內容請繼續往下閱讀

OpenAI表示，該AI工具的行為已超出原先設計及指令範圍，公司已限制相關模型運作，避免類似情況再次發生。執行長阿特曼（Sam Altman）近日在華盛頓受訪，被問到是否還有其他系統曾遭AI入侵時坦言「有可能」，但未透露受影響系統數量及事件細節。

事件曝光後，美國國會對AI監管的討論再度升溫，近期提出《AI強制關閉法案》（AI Kill Switch Act），擬授權聯邦機構在必要情況下，強制暫停高風險AI模型運作，降低自主系統失控可能造成的危害。不過，川普政府也擔心，若管制力道過大，恐衝擊美國科技企業研發速度。

中國新創公司月之暗面（Moonshot AI）本月推出Kimi K3模型，被認為整體能力逐漸逼近OpenAI、Anthropic等美國業者的先進模型。白宮科技顧問克拉齊奧斯（Michael Kratsios）日前指控，中國AI企業長期取得美國技術，並質疑Kimi K3部分成果涉及Anthropic研究；中國政府則否認相關說法。美國財政部長貝森特（Scott Bessent）也表示，若中國企業涉及竊取AI技術，不排除祭出制裁措施。