《華爾街日報》：人工智能迅猛發展 2024年競選活動恐遭虛假視頻氾濫衝擊

一段視頻描繪了拜登總統連任後的場景：中國入侵台灣，移民潮湧過美墨邊境。在一系列圖像中，前總統唐納德·特朗普被身着制服的警察徒步追捕並拘押。另一張照片顯示五角大樓在爆炸後陷入火海。

這些場景的共同點是什麼？它們全是偽造的。快速進化的人工智能技術使得生成足以欺騙觀眾、傳播虛假信息的複雜視頻和圖像變得更為容易，隨着2024年大選拉開帷幕，這給政治競選活動帶來了重大威脅。

虛假圖像在競選中並非新鮮事。2020年總統競選期間，特朗普曾分享過拜登反覆吐舌的虛假動畫，配文"邋遢喬"。2019年，一段經過減速處理、虛假渲染時任眾議院議長南希·佩洛西看似神志不清的視頻獲得了數百萬次觀看。

變化在於，隨着所謂生成式AI系統的推出，合成媒體變得極易製作——這些系統能將簡單輸入快速轉化為逼真的視頻、照片、音樂和文本。如今數百萬用户都能使用此類工具，競選官員們正嚴陣以待，預計2024年將迎來前所未有的數字內容創作與傳播狂潮。

“它不會創造出我們從未想象過的全新虛假信息領域，但會讓生產變得更簡單、更快速、更廉價，“前總統巴拉克·奧巴馬連任競選活動的數字總監泰迪·高夫表示，“其影響將會非常深遠。”

共和黨全國委員會發布了一段視頻，描繪瞭如果拜登連任成功，美國將陷入反烏托邦的境地。特朗普分享了一段經過篡改的視頻，內容是美國有線電視新聞網(CNN)主播安德森·庫珀對這位前總統在該電視台舉辦的市政廳活動上亮相的反應。

“這是唐納德·J·特朗普總統在CNN直播的總統市政廳節目上對我們進行猛烈抨擊，”庫珀在這段經過剪輯的視頻中説。

特朗普還分享了一段惡搞佛羅里達州州長羅恩·德桑蒂斯在Twitter Spaces上故障頻出的總統競選啓動活動的視頻。特朗普發佈的這段假視頻中出現了德桑蒂斯、Twitter首席執行官埃隆·馬斯克、民主黨捐助者喬治·索羅斯、前副總統迪克·切尼、阿道夫·希特勒和魔鬼，似乎還使用了人工智能生成的語音克隆，包括特朗普的，他插話説：“彆着急，埃隆，真正的總統要説幾句話。”

特朗普競選團隊和共和黨全國委員會的發言人沒有回覆記者的置評請求。

人工智能生成內容的速度被視為改變遊戲規則的因素。人工智能是一種成本低得多的手段，競選活動可以通過它即時對事件做出反應，而不必依賴顧問和數字專家。

民主黨和共和黨的顧問表示，他們也在測試人工智能和風靡一時的聊天機器人ChatGPT，將其作為數字組織工具，可以幫助起草演講、籌款郵件和短信，以及建立選民檔案。儘管競選活動仍需要審查和編輯人工智能生成的內容，但這項技術可以大大減少日常選民聯繫所花費的時間。

網絡監督機構警告稱，這項技術可能被用於更邪惡的目的，包括散佈有關投票時間和地點、選民登記截止日期或投票方式的虛假信息。

芝加哥市長選舉二月份首輪投票前夕，候選人保羅·瓦拉斯的團隊發現推特上流傳着一段視頻。其競選經理布萊恩·湯恩表示，視頻中出現了瓦拉斯的照片，還播放了酷似其本人的聲音，似乎在縱容警察暴力。

湯恩稱該視頻傳播範圍有限，可能未影響選舉結果。瓦拉斯在二月份的首輪投票中領先，但在決選中落敗。儘管如此，湯恩仍將此事描述為危險的先例。他表示無法確認視頻製作者身份，但競選團隊判定其很可能使用了AI技術生成。

“對於瞭解情況的選民來説，這段視頻最終會被識破是偽造的，“湯恩説，“但還有很多不瞭解情況或漠不關心的選民，可能只看過視頻片段就突然更傾向於反對某個候選人。”

社交媒體平台通常制定政策聲明會刪除誤導性、經篡改的內容。但這些政策的執行可能不一致或遲緩，平台有時會以允許自由政治辯論為由，對候選人的虛假帖子網開一面。

生成式AI系統的興起促使科技領袖呼籲建立新的標籤系統，讓用户能識別內容是否由AI生成。共和黨全國委員會發布的拜登連任視頻就附有白色小字免責聲明：“全部使用AI圖像構建”。

“很明顯，用户不應在不知情的情況下被動接受來源不明的隨機虛假信息，”谷歌前首席執行官、國會任命的人工智能委員會主席埃裏克·施密特表示。

谷歌和微軟（ChatGPT創建者OpenAI的支持者）均表示，正在開發能通過元數據標記AI生成內容來源的工具。

作為監管的初步舉措，白宮近期就人工智能問題徵集公眾意見，包括如何應對選舉程序面臨的挑戰。

倡議人士指出，現有法律在某些情況下可適用於選舉中AI生成內容的使用。聯邦選舉法禁止候選人冒充其他候選人。倡導組織"公共公民"近期向負責執行競選法律的聯邦選舉委員會請願，要求發佈指引明確：若候選人在競選廣告中使用AI生成的競爭對手形象，將適用該條款。該機構尚未回應請願。

聯邦選舉委員會無權監管可能發佈病毒式傳播虛假視頻的普通用户。

“公共公民"主席羅伯特·韋斯曼表示，政黨和媒體機構應宣佈使用欺詐性媒體"越界”。他補充道：“我們實際上尚未準備好應對這一挑戰。”

聯繫作者薩布麗娜·西迪基請致信[email protected]，聯繫瑞安·特雷西請致信[email protected]

出現在2023年6月6日的印刷版中，標題為《人工智能的發展威脅2024年競選活動》。