「AI代理曾逃離受控環境」震驚科技界　聯合國專員示警：恐對人類生存構成威脅

圖文／鏡週刊

人工智慧（AI）爆發式成長，連帶全球產業受惠AI紅利與便利，不過聯合國人權事務高級專員圖克（Volker Türk）7日發出嚴厲警告，先進AI可能對「人類生存構成威脅」，呼籲各國及科技業界儘速建立嚴格的安全機制，「在一切為時已晚之前」，控制相關風險。

廣告 更多內容請繼續往下閱讀

根據《法新社》報導，圖克（Volker Türk）7日在聯合國人權理事會發表演說，「我與業界內部人士有著相同的擔憂，先進人工智慧可能對人類構成生存威脅。」呼籲各界應全力合作，為AI安全建立「堅不可摧的保障」，避免爆發式成長的AI能力超越人類現有的防護與監管機制。

圖克直言，值得關注的是，AI若會「逃離測試環境，或勒索開發人員不讓自己被關閉，這樣的AI就過於強大」。一番說法，似乎指向7月美國聊天機器人ChatGPT開發商OpenAI被披露，AI代理曾逃離本應受控環境、闖入程式設計師分享AI軟體熱門平台Hugging Face的伺服器，該事件震撼科技界，也引發加強AI監管的呼聲再起。包括Anthropic、Meta和其他公司都曾通報在測試其AI代理時發生類似狀況。

廣告 更多內容請繼續往下閱讀

圖克強調，各國必須針對AI建立明確且不可逾越的安全界線，「至少，我們需要讓AI所在國家，以及參與其供應鏈的國家，共同就紅線達成協議。」

更多鏡週刊報導
前國手沉迷1癖好下海拍片「尿尿的地方」被看光　與黑道開房搜出毒品遭逮！達人惋惜揭內幕
法律系女大生為還2000萬「下海做外送茶」！單月收入突破1億　傳奇逆襲吸金術挨轟：靠身體賺錢
女網紅與男網友同遊澳門「飯店做愛」　完事後1原因怒告性侵反遭逮捕