在新罕布什爾州傳播的拜登虛假自動撥號電話消息引起選舉專家的警惕-彭博社

一名選民在美國新罕布什爾州杜勒姆的奧斯特河高中投票站投票，日期為2020年2月11日星期二。根據週二發佈的一項全國民意調查，伯尼·桑德斯在民主黨總統初選中領先喬·拜登10個百分點，突顯了前副總統在愛荷華州排名第四的表現如何重塑了提名之爭。攝影師：亞當·格蘭茲曼/彭博社沒有什麼政治上的深度偽造比美國總統喬·拜登的篡改音頻信息更讓世界的虛假信息專家感到震驚，這個消息在週末開始傳播。

在電話留言中，一個經過編輯的聲音聽起來像拜登，敦促新罕布什爾州的選民不要在星期二的民主黨初選中投票。“把你的選票留到11月的選舉中使用”，電話留言説道。它甚至使用了拜登的標誌性短語：“真是一派胡言。”事實上，總統並沒有參加新罕布什爾的競選，而且在初選中投票並不排除人們參加11月的選舉。

許多人警告稱，今年將有新的人工智能視頻和圖像生成器被用於政治目的，同時全球近一半的人口將在選舉中發揮作用。但現在讓專家們擔心的是音頻深度偽造。它們很容易被編輯，製作成本低廉，而且特別難以追蹤。研究人員表示，將一個令人信服的電話留言與選民登記數據庫相結合，一個不良行為者就擁有了一個強大的武器，即使是最先進的選舉系統也難以處理。“政治深度偽造的時刻已經到來，”消費者倡導智庫公民公民的總裁羅伯特·韋斯曼説道。他呼籲立法者制定保護措施，以防止虛假音頻和視頻記錄引發“選舉混亂”。

閲讀更多： 美國進入後真相選舉，平台迴避仲裁角色

虛假的拜登信息出現在越來越多的美國政治活動中使用人工智能軟件大規模接觸選民的同時，投資者也在向語音克隆初創公司注入資金。就在週一，當深度偽造的電話信息傳播開來時，人工智能語音複製初創公司ElevenLabs宣佈已經籌集到了一輪新的融資，使公司估值達到了110億美元。 估值了該公司。

篡改的政治錄音並非首次出現。去年，在斯洛伐克議會選舉前，社交媒體上傳播了音頻深度偽造，其中包括一段黨領袖米哈爾·希梅茨卡似乎在討論購買選票的計劃。與此同時，視頻和音頻深度偽造在政治上的使用被證明是有限的。 傳播在社交媒體上。

目前尚不清楚拜登的信息是如何生成的。新罕布什爾州的檢察長正在調查這通電話。但要追蹤虛假音頻的來源將會特別困難，因為它是通過電話傳播而不是在線傳播的，根據波士頓大學新聞和新興媒體研究助理教授瓊·多諾萬的説法，電話傳遞的音頻信息並不會留下相同的數字蹤跡。

“這表明了下一代骯髒手段的跡象，”多諾萬説。

有另一個原因使得虛假的拜登視頻片段對虛假信息研究人員和選舉官員尤為令人擔憂。它證實了他們最大的恐懼：惡意行為者不僅僅是利用深度偽造來影響公眾輿論，而且是為了阻止選民根本不去投票。

“即使這種虛假信息只會影響幾百或幾千張選票，也可能在結果和結果方面具有意義，”尼克·迪亞科普洛斯説，他是一位研究操縱音頻和選舉的西北大學教授。

美國聯邦選舉委員會已經開始採取一些措施來規範政治深度偽造，但尚未對幫助生成它們的技術進行限制。一些州已經提出了自己的法律來遏制深度偽造。

選舉官員正在進行培訓演習以應對一場攻擊。今年8月，大約100名聯邦和州官員在科羅拉多州聚集在一起，共同商討如何最好地應對一段假想的虛假視頻，其中包含虛假的選舉信息。去年12月，亞利桑那州進行了另一次演習，官員們在其中討論了一種情景，即國務卿阿德里安·方特斯的視頻被篡改以傳播不準確的信息。

與此同時，深度偽造檢測工具仍處於萌芽階段，結果仍不確定。

例如，週一，ElevenLabs自己的檢測工具顯示拜登的電話很可能不是使用克隆軟件創建的，即使深度偽造檢測初創公司Clarity表示超過80%的可能是深度偽造。