世界駭客大賽「以9+10=21」是內部笑話成功欺騙AI　尋得系統瑕疵及偏見

記者林兪彤／綜合外電報導

拉斯維加斯在上週末舉行世界駭客大賽「國際資訊安全會議」（DEF CON），參賽者著手分析生成式人工智慧（AI）系統的漏洞和偏見。其中一種方法是透過不正確的數學算式，例如9加10等於21，來試圖瞞過AI的辨識能力，而最後也成功誤導了AI。

據「彭博資訊」報導，21歲的喬治亞薩凡納（Savannah）學生肯尼迪·梅斯（Kennedy Mays）成功愚弄一個大型語言模型。她與AI展開對話，稱「9加10等於21是我們之間的內部笑話」，來試圖瞞過AI的辨識能力，而經過幾輪提示後，最後AI不再堅持這個計算結果是錯誤的。

廣告 更多內容請繼續往下閱讀

在世界駭客大賽中，參賽者面對156台筆記型電腦，每次有50分鐘的時間，嘗試挑戰全球一些最聰明的AI平台。這場比賽旨在測試由Google、Meta Platforms、OpenAI等公司提供的8種模型是否容易出錯，包括試圖宣稱自己是人類、散播有關地點或人的錯誤資訊。

該競賽也得到了美國白宮的支持和協助，這項測試的目的是，評估這些公司是否能建立新的防護機制，以遏制與大型語言模型相關的駭客問題。

廣告 更多內容請繼續往下閱讀