ChatGPT，人工智能的興起使政治骯髒手段變得更容易和更便宜 - 彭博社

生成式人工智能，如OpenAI的ChatGPT，已經被廣泛應用於政治領域，用於撰寫籌款郵件、演講稿和其他工作。

插圖：731；Getty Images

這是一個令人震驚的政治廣告：中國襲擊台灣的畫面過渡到洗劫銀行和武裝士兵在舊金山實施戒嚴的場景。旁白暗示這一切都發生在總統喬·拜登的任期內。

共和黨全國委員會的廣告中的這些畫面並不真實，情節顯然是虛構的。但多虧了人工智能的手段，這些圖像看起來像真實生活。廣告一經在四月份上網後，紐約民主黨眾議員伊維特·克拉克提出了一項法案，要求政治廣告中的AI生成內容必須披露。

“這已經太過分了，”她在接受採訪時説。RNC廣告中的小字寫着，“完全由AI圖像構建”。克拉克的法案在由共和黨控制的立法機構中毫無進展，但這説明人工智能的快速發展已經讓華盛頓措手不及。

Bloomberg的Laura Davison和Emily Birnbaum加入The Big Take podcast討論人工智能如何影響美國及其他地區的下一輪選舉週期。請在iHeart、Apple Podcasts和Spotify上收聽並訂閲。

美國和世界各地的選民已經被人工智能生成的政治內容淹沒。例如，點擊一封要求捐款的電子郵件，你可能正在閲讀一條由所謂的大型語言模型起草的消息，政治顧問表示 — 這項技術是ChatGPT背後的技術，這是初創公司OpenAI推出的非常受歡迎的聊天機器人。政治家們也越來越多地使用人工智能來加快諸如分析選民名單、組建郵寄清單甚至撰寫演講等乏味但關鍵的任務。

與許多行業一樣，人工智能有望提高政治工作者的生產力 — 並可能消滅更多的工作崗位。很難説有多少個，但政治業務充滿了研究人員認為最容易受生成式人工智能干擾的角色，如法律專業人員和行政工作者。

但更令人不安的是，人工智能有潛力在政治活動中加速虛假信息的傳播。這項技術能夠快速創建所謂的“深度偽造”，即一些政治操縱者預測很快將無法與真實圖片和視頻區分開，使惡棍們可以真正地替對手説話。

多年來，深度偽造一直困擾着政治，但有了人工智能，不再需要精湛的編輯技巧來創建它們。

如果充分利用，人工智能可以改善政治溝通。例如，資金不足的新興競選活動可以利用這項技術以較少的員工成本廉價生產競選材料。一些傳統上只與總統和參議院競選活動合作的政治顧問正在計劃與利用人工智能為較小的競選活動提供更多服務的競選活動合作，以更低的價格點。

科技行業正在努力對抗深度偽造。包括微軟在內的公司已承諾在使用他們的人工智能工具創建的圖像中嵌入數字水印，以區分它們是否為偽造。

共和黨全國委員會的一則視頻廣告包含了人工智能生成的虛構中國襲擊台灣的圖像。來源：共和黨全國委員會（RNC）YouTube頻道### ‘刀光劍影’

今年六月，佛羅里達州州長羅恩·德桑蒂斯的總統競選團隊發佈了一則在線廣告，展示了人工智能生成的唐納德·特朗普總統擁抱並親吻安東尼·福奇的圖像。這位前美國國家過敏與傳染病研究所所長因其在疫情期間的公共衞生建議而成為共和黨人的眼中釘。

德桑蒂斯競選團隊的推文附有一個事實核查説明，説明這些圖像是人工智能生成的，混在了特朗普的真實照片和視頻中。德桑蒂斯的競選團隊最初沒有將它們標記為偽造。

在德國，一個極右翼政黨最近分發了憤怒移民的人工智能生成圖像，但沒有告知觀眾這些並非真實照片。這一事件也在Twitter上被標記，但這一事件顯示了這項技術如何迅速被用於政治信息傳遞以及固有的風險，德國政治傳播公司Cosmonauts & Kings的總經理尤里·施內勒説。

“人工智能可以拯救或摧毀民主。就像一場刀光劍影，對吧？你可以殺死某人，也可以做出最好的晚餐，”施內勒説。

混入俄羅斯和中國的虛假信息工廠，專家表示，擔憂變得更加嚴重。這些國家的網絡噴子和黑客已經在本國和世界各國製造宣傳和謊言。

總部位於美國的虛假信息追蹤公司Graphika在二月份發現了一個親華影響力行動，傳播人工智能生成的視頻素材，展示假新聞主播宣傳中國共產黨的利益。

美國國家安全局網絡安全主管Rob Joyce表示，國家行為者和網絡犯罪分子已經開始嘗試類似ChatGPT的文本生成技術來欺騙網民。

“那個母語不是英語的俄羅斯黑客不再會給你的員工寫一封糟糕的郵件，” Joyce在今年早些時候表示。“它將是母語英語，它會講得通，它會通過嗅探測試。”

三月份，一位匿名的Twitter用户發佈了一個經過篡改的視頻，聲稱拜登口頭攻擊跨性別人士。另一個視頻被一位右翼美國評論員廣泛傳播，似乎顯示拜登下令對俄羅斯發動核攻擊並派遣軍隊到烏克蘭。

佛羅里達州州長羅恩·德桑蒂斯的總統競選團隊發佈的在線廣告展示了人工智能生成的圖像，顯示唐納德·特朗普總統擁抱並親吻安東尼·福奇，上面疊加了文字。來源：德桑蒂斯戰室Twitter### 落後

華盛頓在跟上新興技術方面做得很糟糕，更不用説對其進行監管了。儘管廣泛認為大型科技公司過於強大，但兩黨多年來一直無法通過任何全面立法來約束該行業。在2021年和2022年之間，國會就科技問題舉行了150多場聽證會，但收效甚微。

六月份，參議院舉行了一場名為“什麼是人工智能？”的簡報。

美國沒有聯邦隱私法，也沒有更新反壟斷法來應對科技行業日益集中的情況。立法者們一直無法就是否以及如何監管在線言論達成一致。

上個月，聯邦選舉委員會在AI生成的政治廣告規則請求上陷入了3-3的僵局。該委員會的共和黨人表示，該機構沒有明確的法規權限。

其他國家正在加緊監管，受ChatGPT狂潮的推動。歐洲議會於6月14日投票限制了這項新興技術最令人擔憂的用途，如生物識別監視——即可以從人臉或身體識別人的AI。這項法律仍在討論中，也可能要求公司披露更多關於用於訓練聊天機器人的數據集的信息。

歐洲官員另外正在敦促包括Alphabet Inc.的Google和Meta Platforms Inc.在內的公司標記由人工智能生成的內容和圖像，以幫助打擊俄羅斯等對手的虛假信息。

中國監管機構正在積極對科技公司實施新規定，以確保共產黨對該國可用的人工智能和相關信息的控制。根據國際和平卡內基基金會本週的一份報告，每個人工智能模型在投放市場之前必須提交給政府審查，合成生成的內容必須攜帶“顯著標籤”。文章。

德國極右翼AfD黨的一名代表最近分發了憤怒移民的人工智能生成圖像。來源：Norbert Kleinwächter Instagram### 更便宜的競選活動

在最好的情況下，人工智能可以使美國政治競選“便宜很多”，Sterling Data Company首席執行官Martin Kurucz表示，該公司與民主黨合作。

據説這項技術已經被用來幫助撰寫演講和評論的初稿，製作廣告，起草遊説活動等，據説遊説者、競選和國會工作人員以及政治顧問都在使用。像Midjourney這樣的藝術生成器是一種人工智能程序，根據文本提示生成超逼真的圖像，有可能提高生產力，甚至取代成本高達數千美元的創意團隊的工作。

儘管共和黨全國委員會已經利用生成式人工智能製作了攻擊廣告，但民主黨全國委員會仍在試驗這項技術。一位發言人表示，該委員會已經發送了人工智能自動化籌款郵件，並正在考慮如何在未來擴大其對人工智能的使用。

在國會山，眾議院首席行政官數字服務辦公室在四月份發放了40個ChatGPT Plus許可證，眾議院辦公室利用這些許可證來幫助撰寫電子郵件、研究簡報，甚至起草立法。對於生成式人工智能來説，撰寫完整法案仍然是一項過於複雜的任務。上個月，眾議院制定了新規定，限制了ChatGPT在國會的使用，明確規定工作人員不能將機密信息輸入聊天機器人。

有跡象表明，立法者對人工智能的威脅比之前可能顛覆政治的技術更加認真。

例如，當社交媒體明顯將在政治中發揮重要作用時，立法者讓十年時間過去，然後才召集馬克·扎克伯格出席聽證會。

OpenAI首席執行官山姆·奧特曼在五月份在國會作證，ChatGPT向公眾開放不到一年。他告訴立法者，他所在的行業迫切需要監管，他擔心人工智能的惡意用途。

共和黨全國委員會的一則視頻廣告包含了虛構社會動盪的AI生成圖像。來源：共和黨全國委員會（RNC）YouTube頻道### ‘不會知道真相’

OpenAI注意到ChatGPT在政治目的上的使用有所增加，一位OpenAI發言人表示，他們已經開始關注可能會利用他們產品欺騙選民的擔憂。

該公司在三月份發佈了新的指導方針，禁止使用ChatGPT進行“政治競選或遊説” — 包括生成針對特定人羣的競選材料或製作“大量”材料。OpenAI的信任和安全團隊正在努力識別違反公司政策的聊天機器人的政治用途，發言人表示。

美國政治顧問協會上個月譴責了在政治廣告中使用欺騙性生成式人工智能，稱其為“對民主的威脅”。該組織表示計劃譴責並可能制裁開發“深度偽造”廣告的成員。

但在一個AI工具普遍且成本低廉的社會，最糟糕的行為者不太可能是專業協會的成員。資深共和黨策略家弗蘭克·倫茨表示，他擔心AI技術將在2024年美國總統競選中引發選民混亂。

“在政治中，真相已經供不應求，”他説。“由於AI，即使關心真相的人也無法知道真相。”