AI Deepfakes被用於斯洛伐克傳播虛假信息-彭博社

其中一個視頻展示了一場長達兩分鐘的對話，進步黨領袖米哈爾·西梅卡（Michal Simecka）似乎在與一名記者討論從羅馬少數民族那裏購買選票。

攝影師：弗拉基米爾·西米切克/法新社/蓋蒂圖片社在斯洛伐克議會選舉前夕，展示了使用人工智能生成的深度偽造聲音的視頻在社交媒體上傳播，展示了這種新興技術如何被用於政治虛假信息。

這些視頻正在包括 Meta Platforms Inc.的Facebook和Instagram以及包括模仿政治對手的音頻的Telegram等消息應用程序上分享，Reset，一個研究科技對民主影響的團體，週五在一份報告中表示。

其中一個視頻展示了一場長達兩分鐘的對話，進步黨領袖米哈爾·西梅卡似乎在與一名記者討論從羅馬少數民族那裏購買選票。法新社事實核查員諮詢了幾位專家，他們得出結論，這段音頻是由一個AI工具合成的，該工具是在真實發言者的聲音樣本上訓練的，幾份副本在社交媒體上沒有標記為誤導性。

Meta的一位發言人表示，政黨發佈的帖子不符合事實核查的條件，因為Meta不應該“阻止政治人物的講話傳達到觀眾並接受公眾辯論和審查”，但其在斯洛伐克的事實核查人員“繼續積極揭穿在網上流傳的與選舉有關的虛假言論。”

閲讀更多： 歐盟在斯洛伐克打擊虛假信息的能力受到事實核查

Telegram的一位代表未回覆置評請求。

研究人員和立法者一直在警告關於一波由人工智能驅動的虛假信息，但直到現在，虛假圖片和視頻更多是一種有趣的好奇。 斯洛伐克的例子似乎顯示了這種技術如何被用來欺騙和激怒選民在緊張的選舉前幾天。

這次選舉正在成為東歐聯盟國家540萬人口的一個最重要的選舉之一，自共產主義倒台以來。羅伯特·菲科的 SMER黨 是領先者之一，他正在進行一場民粹主義競選，反對對俄羅斯的制裁和對烏克蘭的軍事援助。他將與西梅卡的親歐盟 Progressive Slovakia 黨競爭。

在另一個視頻中，極右政黨Republika發佈了基於Šimečka和總統Zuzana Čaputová的AI生成配音的政治廣告，警告選民不要“盲目跟隨進步的羣體”。這些視頻週五仍然在Facebook和Instagram上。

“在過去的三四年裏，每個人都在談論即將到來的深度偽造操縱浪潮，但出於某種原因，這並沒有發生，但有理由認為現在可能會有所不同，”為Reset進行研究的Rolf Fredheim説道，該研究更廣泛地關注了選舉前虛假信息和仇恨言論的激增。

此前在北約StratCom追蹤虛假信息的Fredheim表示，深度偽造技術現在變得更容易讓普通人使用，而不需要一台非常強大的計算機。他指出了諸如HeyGen之類的應用，這些應用使將腳本轉換為説話深度偽造視頻變得非常容易，只需使用某人聲音的簡短樣本即可。

“從斯洛伐克選舉的例子來看，有充分理由認為專業操縱者正在研究這些工具，以創造效果並以協調的方式分發它們，”他補充道。

HeyGen並沒有立即回應評論請求。