2024年選舉:Facebook應該禁止特朗普和其他人的音頻深度偽造視頻-彭博社
Parmy Olson
這張插圖照片展示了前總統唐納德·特朗普的Facebook頁面,顯示在2023年3月17日洛杉磯的智能手機屏幕上。
攝影師:CHRIS DELMAS/AFP在烤一片面包的時間內,你可以克隆美國總統喬·拜登的聲音並在社交媒體上分享。你可以讓他用他那慢慢的嘶啞聲音咕噥:“我一直都知道Covid-19是一個騙局,只是假裝它是真的很有用”,然後將音頻疊加在總統微笑的照片上,上傳到TikTok、YouTube和Facebook,然後等待。
然後會發生一件有趣的事情。前兩個網站會刪除你的剪輯。但是擁有30億用户的最大平台不會。Facebook會在剪輯上貼上警告標籤,但讓它保留供人們點擊、收聽和分享。這種陳舊的政策在一個分裂的選舉年可能會帶來災難。
已經有幾個例子顯示了這種情況是多麼可能。去年九月,斯洛伐克一位政治領袖的偽造音頻“討論”如何購買選票在Facebook上分享,這發生在一場激烈的國家選舉的幾天內。母公司Meta Platforms Inc.並不像刪除偽造視頻那樣禁止偽造音頻剪輯,因此Facebook讓它保留,並貼上標籤説它已被篡改。兩天後,同一政黨領袖輸掉了選舉。我們無法知道這是否影響了選票,但在選舉前該國還進行了48小時的媒體封鎖,這意味着沒有其他人來揭露這個偽造。
在虛假信息的世界中,假音頻可能比視頻產生更加陰險的影響。雖然唐納德·特朗普的假“照片”看起來光滑、塑料感十足,但背後的人工智能技術很難被識別和區分。而由於一系列新工具的出現,AI生成的聲音現在可以聽起來超現實主義。這些工具最初是為了幫助播客和營銷人員而設計的。
像Eleven Labs、Voice AI和Respeecher這樣的公司銷售可以合成演員的聲音的服務,這樣他們就可以用不同語言朗讀有聲書,有些只需要幾分鐘的語音錄音就可以克隆出聲音。根據市場研究公司Pitchbook的數據,2023年,語音AI初創公司從風險投資者那裏籌集了約16億美元(總體投資增長在過去兩年已經下降,部分原因是像亞馬遜和OpenAI這樣的大公司正在獲取更多的業務)。
像Respeecher這樣的一些公司已經採取了防止濫用的措施,或者他們要求人們允許克隆他們的聲音。但這並不能阻止其他人利用它們。例如,最近有人克隆了倫敦市長的聲音,並將偽造的音頻剪輯發佈到了TikTok。在這段音頻中,可以聽到薩迪克·汗的聲音説,停戰紀念日應該取消,以支持巴勒斯坦人的抗議活動。“為什麼他們不在下個週末舉行紀念週末?”他的聲音説。這段音頻引起了英國人的憤怒,他們認為應該尊重該國的退伍軍人紀念日慶祝活動,但汗的辦公室 表示,這段剪輯正在“被一個極右團體傳播和放大”。令他們失望的是,它被重新發布到Facebook上,並且至少有一個案例在網站上沒有警告標籤。
另一人製作了一段假視頻,聲稱英國工黨領袖基爾·斯塔默稱呼他的一個團隊成員為“該死的白痴”,而第二個偽造的視頻顯示斯塔默説他“討厭利物浦”。這些帖子在TikTok上被觀看了數千次後被刪除。一位保守黨政客鼓勵公眾“忽略它”。
一條推特截圖,顯示了英國工黨領袖被篡改的聲音。它已被觀看超過160萬次,並仍然在X(以前稱為Twitter)上。來源:Twitter.comTikTok刪除了倫敦市長的視頻片段,一位女發言人表示,涉及政治人物的類似欺騙性音頻通常會被刪除,因為這違反了政策。YouTube也刪除了偽造市長聲音的帖子;一位女發言人表示,該網站會刪除可能造成傷害的“技術上篡改的”內容。Twitter也有一項類似規定,儘管似乎沒有執行(例如,它保留了市長的偽造視頻)。
但考慮到Facebook的月活躍用户數比Twitter高出八倍,因此對偽造音頻的寬容態度顯得更加離奇。
Facebook的一位發言人表示,他們對政客的偽造音頻進行了標記並保留,以便人們在在互聯網上遇到類似內容時能夠獲得準確的信息。Facebook辯稱,最好是在警告標籤下保留剪輯,這樣當人們在Twitter或Telegram等其他網站上看到它時,他們就能瞭解其不真實性。
但Facebook依賴於拉伸的事實核查團隊來進行標記。“這些東西正在互聯網上實時傳播,”獨立事實核查慈善機構Full Fact的編輯史蒂夫·諾沃特尼表示,該機構曾與Facebook合作揭穿汗和斯塔默的音頻剪輯。他説,他們花了兩天時間來核查工黨領袖的剪輯。
一個問題是目前仍沒有可靠的技術工具來檢測偽造的AI音頻,因此Full Fact使用老式的調查技術,1而其事實核查團隊只有13人。更廣泛地説,社交媒體公司從事虛假信息的人員數量也在下降。在過去兩年裏,Alphabet Inc.、Meta和Twitter都削減了信任和安全團隊的人數以降低成本,Meta最近還關閉了一個構建事實核查工具的項目,據CNBC報道。
“我在11月與來自亞洲各地的大批事實核查員和記者交談,幾乎每個人都遇到了操縱音頻,不確定如何檢測,”人權組織Witness的執行主任薩姆·格雷戈裏説。
即使標記為錯誤信息,也可能在警告被正確理解之前迅速傳播。在信息分享迅速、情緒高漲的時刻,不是每個Facebook或Instagram用户都會完全理解標籤的含義,或者相信它。
Facebook只刪除偽造視頻的政策已經過時。當我們進入英國、印度、美國和其他地方可能會發生動盪的國家選舉時,由於人工智能工具生成各種媒體和信息,情況變得更加混亂,該平台應該開始刪除欺騙性音頻。
更多來自彭博觀點:
- 開源人工智能並非總是“開放”和免費:帕米·奧爾森
- 想要富有?也許可以嘗試心理療法:泰勒·考温
- 飛鏢在其泰格·伍茲時刻:馬修·布魯克
想要更多彭博觀點? OPIN <GO>。或者您可以訂閲我們的每日新聞簡報**。**