2024年選舉：Facebook應該禁止特朗普和其他人的音頻深度偽造視頻-彭博社

Parmy Olson

這張插圖照片展示了前總統唐納德·特朗普的Facebook頁面，顯示在2023年3月17日洛杉磯的智能手機屏幕上。

攝影師：CHRIS DELMAS/AFP在烤一片面包的時間內，你可以克隆美國總統喬·拜登的聲音並在社交媒體上分享。你可以讓他用他那慢慢的嘶啞聲音咕噥：“我一直都知道Covid-19是一個騙局，只是假裝它是真的很有用”，然後將音頻疊加在總統微笑的照片上，上傳到TikTok、YouTube和Facebook，然後等待。

然後會發生一件有趣的事情。前兩個網站會刪除你的剪輯。但是擁有30億用户的最大平台不會。Facebook會在剪輯上貼上警告標籤，但讓它保留供人們點擊、收聽和分享。這種陳舊的政策在一個分裂的選舉年可能會帶來災難。

已經有幾個例子顯示了這種情況是多麼可能。去年九月，斯洛伐克一位政治領袖的偽造音頻“討論”如何購買選票在Facebook上分享，這發生在一場激烈的國家選舉的幾天內。母公司Meta Platforms Inc.並不像刪除偽造視頻那樣禁止偽造音頻剪輯，因此Facebook讓它保留，並貼上標籤説它已被篡改。兩天後，同一政黨領袖輸掉了選舉。我們無法知道這是否影響了選票，但在選舉前該國還進行了48小時的媒體封鎖，這意味着沒有其他人來揭露這個偽造。

在虛假信息的世界中，假音頻可能比視頻產生更加陰險的影響。雖然唐納德·特朗普的假“照片”看起來光滑、塑料感十足，但背後的人工智能技術很難被識別和區分。而由於一系列新工具的出現，AI生成的聲音現在可以聽起來超現實主義。這些工具最初是為了幫助播客和營銷人員而設計的。

像Eleven Labs、Voice AI和Respeecher這樣的公司銷售可以合成演員的聲音的服務，這樣他們就可以用不同語言朗讀有聲書，有些只需要幾分鐘的語音錄音就可以克隆出聲音。根據市場研究公司Pitchbook的數據，2023年，語音AI初創公司從風險投資者那裏籌集了約16億美元（總體投資增長在過去兩年已經下降，部分原因是像亞馬遜和OpenAI這樣的大公司正在獲取更多的業務）。

像Respeecher這樣的一些公司已經採取了防止濫用的措施，或者他們要求人們允許克隆他們的聲音。但這並不能阻止其他人利用它們。例如，最近有人克隆了倫敦市長的聲音，並將偽造的音頻剪輯發佈到了TikTok。在這段音頻中，可以聽到薩迪克·汗的聲音説，停戰紀念日應該取消，以支持巴勒斯坦人的抗議活動。“為什麼他們不在下個週末舉行紀念週末？”他的聲音説。這段音頻引起了英國人的憤怒，他們認為應該尊重該國的退伍軍人紀念日慶祝活動，但汗的辦公室 表示，這段剪輯正在“被一個極右團體傳播和放大”。令他們失望的是，它被重新發布到Facebook上，並且至少有一個案例在網站上沒有警告標籤。

另一人製作了一段假視頻，聲稱英國工黨領袖基爾·斯塔默稱呼他的一個團隊成員為“該死的白痴”，而第二個偽造的視頻顯示斯塔默説他“討厭利物浦”。這些帖子在TikTok上被觀看了數千次後被刪除。一位保守黨政客鼓勵公眾“忽略它”。

一條推特截圖，顯示了英國工黨領袖被篡改的聲音。它已被觀看超過160萬次，並仍然在X（以前稱為Twitter）上。來源：Twitter.comTikTok刪除了倫敦市長的視頻片段，一位女發言人表示，涉及政治人物的類似欺騙性音頻通常會被刪除，因為這違反了政策。YouTube也刪除了偽造市長聲音的帖子；一位女發言人表示，該網站會刪除可能造成傷害的“技術上篡改的”內容。Twitter也有一項類似規定，儘管似乎沒有執行（例如，它保留了市長的偽造視頻）。

但考慮到Facebook的月活躍用户數比Twitter高出八倍，因此對偽造音頻的寬容態度顯得更加離奇。

Facebook的一位發言人表示，他們對政客的偽造音頻進行了標記並保留，以便人們在在互聯網上遇到類似內容時能夠獲得準確的信息。Facebook辯稱，最好是在警告標籤下保留剪輯，這樣當人們在Twitter或Telegram等其他網站上看到它時，他們就能瞭解其不真實性。

但Facebook依賴於拉伸的事實核查團隊來進行標記。“這些東西正在互聯網上實時傳播，”獨立事實核查慈善機構Full Fact的編輯史蒂夫·諾沃特尼表示，該機構曾與Facebook合作揭穿汗和斯塔默的音頻剪輯。他説，他們花了兩天時間來核查工黨領袖的剪輯。

一個問題是目前仍沒有可靠的技術工具來檢測偽造的AI音頻，因此Full Fact使用老式的調查技術，1而其事實核查團隊只有13人。更廣泛地説，社交媒體公司從事虛假信息的人員數量也在下降。在過去兩年裏，Alphabet Inc.、Meta和Twitter都削減了信任和安全團隊的人數以降低成本，Meta最近還關閉了一個構建事實核查工具的項目，據CNBC報道。

“我在11月與來自亞洲各地的大批事實核查員和記者交談，幾乎每個人都遇到了操縱音頻，不確定如何檢測，”人權組織Witness的執行主任薩姆·格雷戈裏説。

即使標記為錯誤信息，也可能在警告被正確理解之前迅速傳播。在信息分享迅速、情緒高漲的時刻，不是每個Facebook或Instagram用户都會完全理解標籤的含義，或者相信它。

Facebook只刪除偽造視頻的政策已經過時。當我們進入英國、印度、美國和其他地方可能會發生動盪的國家選舉時，由於人工智能工具生成各種媒體和信息，情況變得更加混亂，該平台應該開始刪除欺騙性音頻。

更多來自彭博觀點：

想要更多彭博觀點？ OPIN <GO>。或者您可以訂閲我們的每日新聞簡報**。**