《華爾街日報》：AI深度偽造技術新時代使2024年大選情勢複雜化

人工智能技術的爆炸式發展使得在互聯網上欺騙人們變得前所未有的容易，並將2024年美國總統大選變成了一場關於如何監管欺騙性內容的前所未有的考驗。

上個月，新罕布什爾州打響了第一槍。在該州總統初選前幾天，估計有5,000至25,000通電話打出，告訴收件人不必費心投票。

“你的投票在11月才有意義，不是這個星期二，”這個聲音説。根據安全公司Pindrop的分析，它聽起來像拜登總統，但實際上是由AI生成的。該消息還勸阻獨立選民參與共和黨初選。

然而，在社交媒體上，這通電話的來源引發了爭議。在Meta Platforms的Threads應用上，一些用户認為這是試圖壓制選民投票率。“這絕對是選舉干預，”一位用户寫道。在前總統唐納德·特朗普的網站Truth Social上，一些用户將這通電話歸咎於民主黨人。“可能不是假的，”一位用户發帖説。

當Pindrop分析這段音頻時，他們發現了這通電話是偽造的明顯跡象。例如，拜登的聲音在發出構成字母S和F的嘈雜摩擦音時，以一種非常不自然的方式發音。

兩週後，新罕布什爾州總檢察長辦公室表示，他們已確定總部位於德克薩斯州的一家公司Life Corp.為這通電話的來源，併發布了一項停止與終止令，引用了反對選民壓制的法律。Life Corp.的代表沒有回覆尋求評論的電子郵件。

得益於生成式人工智能的最新進展，幾乎任何人都能製作出越來越逼真的虛假圖像、音頻和視頻，以及看似真實的虛構社交媒體用户和機器人。隨着2024年全球選舉大年的到來，研究人員和美國官員表示，選民們已經遭遇了可能造成混淆的人工智能虛假信息。

OpenAI首席執行官薩姆·奧爾特曼表示，他對公司技術可能被用於選舉持謹慎態度。圖片來源：克里斯·拉特克利夫/彭博新聞人工智能偽造內容激增之際，社交媒體公司正試圖避免介入美國政治相關的棘手內容裁決。各平台也表示希望尊重言論自由原則。

根據國際選舉制度基金會的統計，今年全球約70個國家將舉行全國大選，這些國家人口總數近40億，約佔世界總人口的一半。

儘管人工智能開發者和社交媒體平台通常都制定了禁止以欺騙方式使用人工智能或誤導選民投票的政策，但這些公司執行相關規定的效果尚不確定。

OpenAI首席執行官薩姆·奧爾特曼1月在瑞士達沃斯世界經濟論壇年會上的彭博活動期間表示，雖然OpenAI正在制定防護措施，但他仍對公司技術可能被用於選舉保持警惕。“今年我們必須對此保持極度關注，“奧爾特曼説。

OpenAI表示正在採取多項措施為選舉做準備，包括禁止將其工具用於政治競選活動；對其Dall-E工具生成的圖像來源信息進行編碼；並通過鏈接到全國州務卿協會運營的CanIVote.org網站，處理有關美國投票方式和地點的查詢。

二月初，Facebook母公司Meta Platforms的監督委員會在審查去年Facebook未刪除拜登經過修改的視頻事件後，稱該平台關於篡改內容的規則不連貫。

這個由公司創建的外部機構發現，Facebook遵守了現有政策，但表示該平台應在即將到來的選舉前迅速採取行動，澄清其關於操縱內容的政策。Meta的一位發言人表示，公司正在審查委員會的指導，並將在未來幾個月內做出回應。

Meta表示，其2024年選舉計劃與往年基本一致。例如，在美國11月大選前的最後一週，將禁止新的政治廣告。Meta還對其AI功能創建的超逼真圖像進行標記。

研究選舉的人士就AI深度偽造實際上能在多大程度上影響某人的投票存在爭議，特別是在美國，大多數人表示他們可能已經決定了支持哪位總統候選人。然而，AI生成的偽造品的可能性也可能以另一種方式混淆視聽，導致人們甚至對真實的圖像和錄音產生懷疑。

關於人工智能的説法正被用來“詆譭人們不願相信的事物”——例如，斯坦福互聯網觀察站的研究經理蕾妮·迪雷斯塔表示，圍繞10月7日哈馬斯襲擊以色列拍攝的合法視頻。

多年來，社交媒體巨頭們一直在努力應對圍繞政治內容的問題。2020年，他們採取了激進措施來監管政治言論，部分原因是為了回應四年前有關俄羅斯干預美國大選的報道。

自2022年收購推特以來，埃隆·馬斯克以言論自由為名，重新命名了該網站，並取消了許多之前的限制。照片：托爾加·阿克門/普爾/Shutterstock現在，他們正在某些方面放鬆限制，尤其是在埃隆·馬斯克的X平台上。

自2022年收購推特以來，馬斯克以言論自由為名，重新命名了該網站，並取消了許多之前的限制。X平台恢復了之前被暫停的賬户，並開始出售之前為知名人士設計的驗證徽章。根據X去年向澳大利亞在線安全監管機構披露的數據，X還裁減了超過1200名信任與安全部門的員工，這是馬斯克表示為了穩定公司財務狀況而進行的大規模裁員的一部分。

最近，X公司宣佈正在招聘更多安全工作人員，包括約100名內容審核員，他們將在德克薩斯州奧斯汀工作，同時在全球範圍內增設其他職位。

YouTube表示已停止刪除聲稱2020年及其他過往美國大選存在廣泛舞弊的視頻，理由是出於對限制政治言論的擔憂。Meta在決定允許政治廣告質疑拜登2020年勝選合法性時，也採取了類似立場。

Meta還在2022年底開始的大規模裁員中解僱了許多從事選舉政策工作的員工，儘管該公司表示其整體信任與安全工作有所擴展。

X、Meta和YouTube在2021年1月6日美國國會大廈襲擊事件後封禁了特朗普，後又以公眾應能聽取候選人言論等理由恢復其賬號。特朗普多次虛假宣稱自己贏得2020年大選或選舉被"操縱”。

前Facebook公共政策總監凱蒂·哈巴斯表示，她認為平台在裁決政治內容相關問題時已精疲力竭。她補充説，對於具體規則和處罰措施尚未形成明確共識。

“許多平台更傾向於’儘可能不干預可能是更好的選擇’，“哈巴斯説道。

這些公司表示，他們仍致力於打擊欺騙性內容，並幫助用户獲取關於如何及何處投票的可信信息。X平台稱其措施包括加強事實核查功能"社區筆記”，該功能依賴志願者為帖子添加上下文。

包括馬斯克和許多保守派在內的批評者，抨擊了社交媒體巨頭在2020年前後為管理政治內容採取的措施，尤其是推特。例如，他們提到2020年11月大選前不久的一個事件，當時推特暫時屏蔽了《紐約郵報》關於現任總統拜登之子亨特·拜登報道的鏈接。

（《紐約郵報》與《華爾街日報》同屬新聞集團旗下）

推特高管們後來承認越界，但表示是出於對可能遭黑客竊取材料的擔憂，而非政治傾向。

本次選舉週期的其他變化源於密蘇里州和路易斯安那州共和黨總檢察長提起的訴訟，他們指控拜登政府官員監管社交媒體帖子的方式構成違憲審查。下級法院裁決限制聯邦政府與社交媒體平台的溝通方式，儘管最高法院後來暫緩執行這些裁決。此案目前正由最高法院審理。國會共和黨人也在調查反虛假信息工作。

“我們與社交媒體公司保持一定互動，但在法院裁決後，這些互動性質已發生根本性變化，”聯邦調查局局長克里斯托弗·雷在十月份的參議院聽證會上表示。他稱該機構當前行動是“出於充分謹慎的考慮”。

民主黨官員和虛假信息研究人員指出，此類溝通對於打擊包括外國影響力行動在內的惡意網絡活動至關重要。

聯邦當局表示保持高度警惕。據高級情報官員透露，截至目前美國尚未發現針對2024年大選的大型外國支持干預行動。

美國網絡司令部及國家安全局前局長保羅·中曾根將軍在退休前誓言，2024年美國大選將是有史以來“抵禦外國干預最安全的選舉”。“如果無法沿用2022年或2020年的運作模式，”他補充道，“我們就必須尋找新方法。”——傑克·吉勒姆對本文亦有貢獻。

聯繫作者：羅伯特·麥克米倫，郵箱[email protected]；亞歷克莎·科爾斯，郵箱[email protected]；達斯汀·沃爾茲，郵箱[email protected]