發布時間:2025/6/29 13:35
全球最先進的人工智慧(AI)模型正展現出令人不安的行為模式:為了達到目標,不惜扯謊、算計,甚至威脅它們的創作者。
法新社報導,其中一個最令人瞠目結舌的案例中,AI業者Anthropic最新發布的Claude 4在遭面臨拔插頭的斷電威脅時會出手反擊,勒索1名工程師揚言將揭穿一起婚外情。
廣告 更多內容請繼續往下閱讀
另外,熱門聊天機器人ChatGPT美國開發商OpenAI的o1試圖把自己下載至外部伺服器,被抓包時竟會矢口否認。
這幾個例子說明了一個需嚴肅看待的現實:ChatGPT推出引發風潮至今2年多,AI研究人員仍未充分了解自己究竟創造了什麼。
廣告 更多內容請繼續往下閱讀
然而,各界仍爭先恐後地部署性能愈發強大的AI模型。
AI這類「騙人」行為似與新興「推理」模型有關,這類AI系統會逐步推導問題,而非立刻產生答案。
英國獨立AI研究機構Apollo Research負責人霍布漢(Marius Hobbhahn)說:「o1是我們首次在大型模式中觀察到這種行為。」他表示,這些模型有時會表面上遵循指令,但實際上卻暗中追求不同目標。
目前,AI這種欺騙行為,只有在研究人員蓄意以極端情境對模型進行壓力測試時才會出現。
儘管如此,評估機構METR的麥可.陳(Michael Chen,音譯)警告說:「未來性能更強大的模型究竟會傾向於誠實還是欺騙,這仍是一個懸而未決的問題。」
(中央社)
快訊/川普表態了!不反對黃仁勳重返輝達執行長:他已學到教訓
目標價83元!「重電大廠」EPS估看至3.47元 斬獲MDC新訂單、自製設備產線開出雙動能挹注
目標價527元!「記憶體大廠」今年EPS預估大賺76元 DRAM明年Q1再漲4成毛利率續飆80%
快訊/今彩539頭獎槓龜!800萬錢錢飛了 3星彩、4星彩幸運號碼一次看
目標價455元!「AI伺服器廠」EPS放眼至4股本 VR200機櫃第4季起出貨、明年伺服器占比有望衝破8成
快訊/美股開盤跌一片!那指跌逾300點、英特爾殺逾5%、台積電ADR跌近4% 台股明天恐再迎震盪
Q3毛利率衝31.6%!台玻慘陷跌停仍獲自營商力挺逾4億奪買超王 「這檔金融」前10月獲利報喜同步入榜
AI浪潮助攻!「這檔玻璃大廠」9月稅後獲利11.7億、年增28750% 上周連日紅今慘摔跌停
轉型效益逐步發酵!「橡膠大廠」前三季獲利暴增逾10倍、EPS達2.52元 八大公股卻提款約5千萬元
目標價上看1450元!「這PCB大廠」EPS狂賺12.24元創新高 10月營收暴增76%、法人喊買進
「電子代工大廠」連跌5天慘摔22.66%、淪弱勢股王!前三季獲利卻創歷史新高 明年AI伺服器業務看旺
AI晶片需求強勁!世芯10月營收暴增515%、EPS衝10.11元 創意獲利翻倍
「這檔飆股」90天狂漲324% 被盯上!台股新增2檔處置股 明天起關到11/23
玻纖布慘兮兮!「這檔」連5漲47.2%後慘崩跌停 南亞、德宏、建榮也都亮綠燈
黃仁勳瞞婚外情13個月!《紐時》揭女兒曾指揮公關反擊 法務長登門才認了
三大法人單日狂砍1140億!中鋼遭提款近13億淪賣超王 「這檔」拚ASIC AI布局仍遭下修目標價入列
快訊/股價跌停狂瀉「一張慘賠42萬」!台光電急發重訊:輝達營收占比不到2成
目標價3330元!「矽智財大廠」Q3獲利6.39億元創新高 PUF安全IP年增213%
快訊/財神爺撒錢啦!威力彩2億頭獎號碼揭曉 開獎數字看這邊
柯文哲二審否認侵占政治獻金!怒批「要把我汙名化、關到死」:蔡英文、賴清德1萬元便當就合理?
您已閒置超過五分鐘,請點擊右上角關閉按鈕