從美國務卿到台灣總統　國安人士揭中國AI造假新例

圖文／鏡週刊

AI語音深偽技術已從社群娛樂演變為邪惡軸心國家對民主國家進行資訊戰的新形態武器。對此，一名國安人士提醒，過去3個月來，從美國國務卿盧比奧遭冒用進行外交詐騙，到最新發現我國總統賴清德再次被製作深偽影片帶虛偽風向，同樣都是透過AI深偽技術，相關證據顯示北京持續且惡意針對民主國家進行系統性攻擊。

廣告 更多內容請繼續往下閱讀

這位人士指出，今年6月不法分子利用AI生成的盧比歐聲音與文字風格，通過即通訊軟體及簡訊、語音信箱等方式偽裝成盧比歐，向至少3位外國部長、1位州長及1名國會議員發送訊息，意圖獲取機密情報或帳戶存取權。本案當時雖沒有造成實際危害，但美國國務院旋即所有駐外使領館通報風險，提升網路安全防護措施，並與包含FBI在內的執法部門合作調查。

台灣也不例外，國安單位發現，9月17日，YT頻道「AI命運共同體」出現一段標題為「賴清德投入9000億軍費竟然是為了…！」，模擬我國總統賴清德與副總統蕭美琴兩人對話，經過AI變造的賴清德在片中說：「現在中國大陸愈來愈強大」「美國已無法遏止中國，沒準哪天就把我們交易出去」、「就是把美國的裝備全買過來，我們也打不過中共」、「我們得趁這段時間多撈點，以後就沒有機會了」。

廣告 更多內容請繼續往下閱讀

這位人士指出，這段由AI生成，全長48秒的深偽造假影片，幾乎劇本般的依序傳遞「挺中」、「疑美」、「疑軍」、「疑賴」的造謠標籤，符合北京當局長期以來對台灣攻擊的造謠敘事。該頻道於今年7月底建立，短時間已累積超過1.2萬名訂閱者，發表超過50部影片。據分析，該頻道除了使用簡體中文，用字、語境與輸出敘事等均與中國官媒相同，明顯是中國在社群的協力者。

國安人士指出，北約戰略傳播卓越中心研究發現，俄羅斯操控上百個Telegram頻道與網站，使用生成式AI生成政治新聞、造假文章、歧視性圖卡，並透過上述平台互相深度交叉引用，甚至使用AI語音與臉部深偽技術變造影片，讓知名人士看似在網路上發表從未說過的言論。研究發現，受害者本人透過原聲錄音與偽造聲音進行對比後，證實這些深偽影片的品質極高，導致難以肉眼與耳朵有效辨識。

今年8月，美國范德比大學國家安全研究所發現，一家與中國軍方關係密切，名為中科天璣的公司，透過系統持續從社群媒體挖掘超過5000個台灣民眾帳號資料，建立動態的心理側寫，包含對中態度、政治傾向，甚至包含個人的價值觀、信仰、情感傾向等，將生成式AI與龐大的個人資料庫整合。最後於2024年總統大選時，對這些帳號投放如貪腐、投降等對政府不實的指控，並在社群媒體發布深偽影片，試圖影響大選結果。

根據范德比大學取得的文件，中科天璣在台灣之前，已經成功運用其技術，壓制外界對2020年香港國安法的反對聲浪，當時透過香港18萬個推特帳號中辨識出數千名參與者與意見領袖，再透過旗下的假帳號大軍，進行網軍攻擊。資安人士表示，這幾乎與台灣近年遭受的混合戰模式相同，都是透過錯假帳號在社群發表文字、影音等錯假內容，再藉由特定媒體輸出變成「新聞」，影響民眾對議題判斷，試圖大規模操控輿論。

國安人士指出，邪惡軸心國家透過蒐集大量社群帳號進行分析，使用AI深偽造假影片，透過複雜的操作模式，嘗試洗腦民主陣營的國民，進而大規模操弄輿論。這樣不可思議看似電影情節的劇情，已經在真實世界上演，顯示認知戰除了過去傳統的大眾傳播宣傳模式，已轉型為能夠針對個人特徵進行精準投放的影響力操作，甚至透過深偽影片，讓人無法輕易分辨，提醒國人除了增強媒體識讀能力，遇到不合邏輯的影片或詭異論述，務必進行事實查核。

更多鏡週刊報導
國安人士揭AI深偽頻道　48秒輸出疑美、疑軍、疑賴紅色風向
全社會防衛韌性論壇明登場　國安人士：盼概念深植民眾日常
吳欣盈儲存幹細胞提告　再生緣獲勝毋庸返還「原物」