AI需要踩煞車了！Anthropic共同創辦人示警：恐脫離人類掌控

圖文／鏡週刊

AI技術發展迅速，但新創公司Anthropic共同創辦人克拉克近日發出警告，當前AI產業就像只有油門，沒有煞車的汽車。他呼籲建立能夠減緩AI的「煞車踏板」，避免未來AI在缺乏人類參與及監督下持續發展，進而衍生難以預測的風險。

廣告 更多內容請繼續往下閱讀

若AI能自行寫程式　恐有「巨大影響」

身為AI新創公司Anthropic共同創辦人之一的克拉克（Jack Clark），日前接受BBC「新聞之夜」節目專訪，他提到當今AI發展，正接近一個關鍵時刻，也就是可能不再需要人類參與，就能自行改進或開發下一代AI系統。

克拉克透露，Anthropic旗下AI聊天機器人Claude，目前已經能夠參與80%的程式碼撰寫，這個比例在未來2年內，甚至有機會提升至100%。他認為，一旦AI能夠不需要人類參與，自行撰寫程式碼，將帶來「巨大的影響」，意味著人類對技術的掌控能力，也可能面臨挑戰。

廣告 更多內容請繼續往下閱讀

AI發展只有油門　籲建立「煞車踏板」

「我們必須防止AI在沒有人類參與及監督的情況下，持續發展。」克拉克示警，各家公司都在全力發展AI產業，就像一輛只有油門、沒有煞車的汽車。他呼籲全球應建立能夠減緩AI速度的「煞車踏板」，社會與政府應保有控制權，透過適當法規與政策，確保AI發展方向符合公共利益。

 

克拉克並未具體說明所謂的「煞車踏板」，但他以20世紀初石油產業崛起為例指出，當時透過法規和監管制度，讓大眾至今能享受到石油帶來的便利，同時降低風險。他認為，同樣的，AI產業未來也需要類似的治理架構，才能讓民眾對這項技術建立信任。

更多鏡週刊報導
粽葉是廚餘還垃圾？環境部曝正解　丟錯挨罰1200元
老一輩「工作30年」就能買房！他查薪資中位數超悲觀　網共鳴：重新投胎比較快
00後整頓職場？他列2罪狀開戰「拖累社會」　網反擊：以前的人太奴