這位人士指出，今年6月不法分子利用AI生成的盧比歐聲音與文字風格，通過即通訊軟體及簡訊、語音信箱等方式偽裝成盧比歐，向至少3位外國部長、1位州長及1名國會議員發送訊息，意圖獲取機密情報或帳戶存取權。本案當時雖沒有造成實際危害，但美國國務院旋即所有駐外使領館通報風險，提升網路安全防護措施，並與包含FBI在內的執法部門合作調查。
台灣也不例外，國安單位發現，9月17日，YT頻道「AI命運共同體」出現一段標題為「賴清德投入9000億軍費竟然是為了…！」，模擬我國總統賴清德與副總統蕭美琴兩人對話，經過AI變造的賴清德在片中說：「現在中國大陸愈來愈強大」「美國已無法遏止中國，沒準哪天就把我們交易出去」、「就是把美國的裝備全買過來，我們也打不過中共」、「我們得趁這段時間多撈點，以後就沒有機會了」。
這位人士指出，這段由AI生成，全長48秒的深偽造假影片，幾乎劇本般的依序傳遞「挺中」、「疑美」、「疑軍」、「疑賴」的造謠標籤，符合北京當局長期以來對台灣攻擊的造謠敘事。該頻道於今年7月底建立，短時間已累積超過1.2萬名訂閱者，發表超過50部影片。據分析，該頻道除了使用簡體中文，用字、語境與輸出敘事等均與中國官媒相同，明顯是中國在社群的協力者。
國安人士指出，北約戰略傳播卓越中心研究發現，俄羅斯操控上百個Telegram頻道與網站，使用生成式AI生成政治新聞、造假文章、歧視性圖卡，並透過上述平台互相深度交叉引用，甚至使用AI語音與臉部深偽技術變造影片，讓知名人士看似在網路上發表從未說過的言論。研究發現，受害者本人透過原聲錄音與偽造聲音進行對比後，證實這些深偽影片的品質極高，導致難以肉眼與耳朵有效辨識。
今年8月，美國范德比大學國家安全研究所發現，一家與中國軍方關係密切，名為中科天璣的公司，透過系統持續從社群媒體挖掘超過5000個台灣民眾帳號資料，建立動態的心理側寫，包含對中態度、政治傾向，甚至包含個人的價值觀、信仰、情感傾向等，將生成式AI與龐大的個人資料庫整合。最後於2024年總統大選時，對這些帳號投放如貪腐、投降等對政府不實的指控，並在社群媒體發布深偽影片，試圖影響大選結果。
根據范德比大學取得的文件，中科天璣在台灣之前，已經成功運用其技術，壓制外界對2020年香港國安法的反對聲浪，當時透過香港18萬個推特帳號中辨識出數千名參與者與意見領袖，再透過旗下的假帳號大軍，進行網軍攻擊。資安人士表示，這幾乎與台灣近年遭受的混合戰模式相同，都是透過錯假帳號在社群發表文字、影音等錯假內容，再藉由特定媒體輸出變成「新聞」，影響民眾對議題判斷，試圖大規模操控輿論。
國安人士指出，邪惡軸心國家透過蒐集大量社群帳號進行分析，使用AI深偽造假影片，透過複雜的操作模式，嘗試洗腦民主陣營的國民，進而大規模操弄輿論。這樣不可思議看似電影情節的劇情，已經在真實世界上演，顯示認知戰除了過去傳統的大眾傳播宣傳模式，已轉型為能夠針對個人特徵進行精準投放的影響力操作，甚至透過深偽影片，讓人無法輕易分辨，提醒國人除了增強媒體識讀能力，遇到不合邏輯的影片或詭異論述，務必進行事實查核。
相關文章
