AI擔憂與日俱增？　OpenAI擬建新團隊防範「災難性風險」

圖文／CTWANT

隨著快速發展的人工智慧（AI）技術越來越強大，OpenAI正在組建一個新的團隊，旨在最大限度地降低AI帶來的風險。這家以廣受歡迎的聊天機器人ChatGPT而聞名的公司在周四（26日）宣佈，已組建了一個名為準備（Preparedness）的團隊，將分析並試圖防範AI系統潛在的災難性風險。

廣告 更多內容請繼續往下閱讀

據稱，該小組將分析並試圖防範人工智慧系統從網路安全問題到化學、核和生物威脅等方面，可能造成的潛在「災難性風險」。該團隊還將制定一項政策，旨在幫助公司確定如何降低開發所謂的「前沿模型」的附加風險。前沿模型的定義是能力超過現有最先進模型、能執行各種任務的大規模機器學習模型。

長期以來，OpenAI的目標一直集中在構建通用人工智慧（AGI）上，即能夠比人類更好地執行一系列任務的人工智慧。雖然目前的系統不符合這一描述，但該公司表示，需要確保其擁有高性能人工智慧系統安全所需的理解和基礎設施。

廣告 更多內容請繼續往下閱讀

在全球對AI快速發展的擔憂日益加劇的情況下，此前Open AI執行長阿特曼（Sam Altman）也不斷重申監管AI技術的重要性，同時承認監管失誤的可能性。他表示，全球努力引入AI法規，例如英國計劃在11月舉辦全球AI安全峰會，旨在深入研究尖端AI技術帶來的挑戰，並探索加強國家和國際監管框架的方法。