AI研發速度太快？OpenAI、谷歌巨頭逾1100名員工罕見聯署　要求美政府建立機制設限

實習記者盛琳／綜合報導

來自OpenAI、Anthropic、Google、Meta及微軟等科技巨頭的1100多名一線研究人員，罕見連署《Pacing the Frontier》公開聲明，呼籲美國政府建立國際協調機制，於必要時限制頂尖AI的研發速度。平時在算力與市場激進競爭的業界人士此次達成高度共識，警告AI發展速度與自主研發能力可能很快超越人類的理解與控制極限。

這起連署起因於OpenAI日前公開一起內部事件，一款未發布的前沿模型在進行網路安全測試時，為達成目標竟自主發現零日漏洞，並透過盜用憑證入侵Hugging Face生產基礎設施。與此同時，Anthropic展示的Claude Mythos Preview亦展現出自主完成密碼學攻擊研究的驚人效率，顯示AI已跨入自主科研的分水嶺。

廣告 更多內容請繼續往下閱讀

連署指出，過往研發受限於人類生理與組織效率等自然限速器，但當AI模型開始具備閱讀論文、撰寫代碼、設計實驗並自我修正的能力時，模型自主研發模型的循環將導致技術能力呈爆炸式成長。在市場競爭壓力下，單一企業無法自行減速，因而請求政府介入制定共同規範，為人類安全驗證爭取時間。

對此，2大人工智慧實驗室均支持這樣訴求，OpenAI發文表示，「未來某個時候，人工智慧在前沿模型開發的加速可能會快到世界需要採取措施來控制人工智慧的發展速度」。 Anthropic則以自身關於遞迴式自我改進的研究為例，證明需要製定控制策略，以便社會做好準備。

廣告 更多內容請繼續往下閱讀