達沃斯擔心人工智能和2024年選舉，但假新聞通過社交媒體傳播 - 彭博社

Parmy Olson

燃料。

攝影師：Buda Mendes/Getty Images South America全球領導人本週齊聚達沃斯，許多人擔心世界經濟論壇2024年的頂級風險：由人工智能生成的錯誤信息。

OpenAI“非常專注”於阻止像ChatGPT這樣的工具被政治濫用，其首席執行官山姆·阿爾特曼在週二的彭博活動上表示。他的公司預告了新工具，以阻止在美國大選年中的錯誤信息。這種努力是值得讚揚的，但在瑞士的這個談判會上，領導人們必須記住，傳統社交媒體在干擾選舉和民主本身方面仍然發揮着重要作用。

無論喬·拜登的假照片有多逼真，還是英國政客的假音頻有多令人信服，人工智能的真正影響將取決於Deepfake在Facebook、Twitter和TikTok等平台上的傳播程度。而這種傳播將比2016年和2020年的美國大選期間更難追蹤。這一次，不會走紅的東西也可能成為問題。

例如，在Facebook上，12月大部分時間裏有100條視頻廣告通過數萬人的觀看，展示了英國首相里希·蘇納克支持股市欺詐的Deepfake視頻。視頻以BBC新聞主播聲稱蘇納克從與埃隆·馬斯克合作的項目中賺取“鉅額資金”開始，然後切換到首相在講台上，認真地表示他可以“保證這個投資平台的可靠性”。

當然，這都是騙局。受害者點擊鏈接進入一個名為“量子人工智能”的網站，並註冊，然後接到一個呼叫中心操作員的電話，鼓勵他們用比特幣匯款，根據曾在英國政府擔任傳訊官的顧問馬庫斯·比爾德的研究，這些騙子幾周後會再次打電話給受害者，告訴他們的投資增長了，並鼓勵他們再投入更多資金。然後他們就消失了。

Facebook表示，比爾德發現的大部分深度偽造廣告都已被停用。問題在於它們不斷出現。星期三早上在Facebook的廣告庫中簡單搜索“Sunak”發現了一些新的有效廣告，其中包括一則Sunak説他的50億美元量子人工智能平台“交易股票並且做得很好”的廣告。幾個小時後，它們被標記為無效。（你可以自己在廣告庫中搜索， 這裏。）

比爾德説：“這些廣告只有1,000到5,000次曝光。”他認為，去年12月有多達40萬人看到了假Sunak廣告。“但是把這些加起來，規模就很快變大了。”他還説，最近這樣的廣告才開始出現英國首相。

人們很容易認為，推動虛假信息的是邪惡的政治行為者和意識形態者，但往往只是一些試圖賺錢的人。然而，他們仍然可以塑造選民對Sunak這樣的人的看法，或許加深了對他不可信任的現有懷疑。在2016年美國大選之前，馬其頓的一羣青少年通過發佈關於克林頓和唐納德·特朗普的假文章賺了數千美元的廣告收入，其中包括他們的最大熱門作品之一，“方濟各教皇震驚世界，支持唐納德·特朗普競選總統”。支持特朗普的假新聞在2016年大選前三個月內被分享了3000萬次，幾乎是支持希拉里·克林頓的四倍，根據斯坦福大學的一項 研究。其中許多文章在Facebook上迅速走紅。

今天，Facebook正在降低新聞故事的排名。這意味着，以前你叔叔發佈的一篇福克斯新聞文章，下面還有一長串激烈評論的帖子可能會出現在你的動態消息頂部，但現在Facebook用户更傾向於在Reels上看到一些來自他們不認識的人的隨機有趣視頻，Reels是Facebook的TikTok克隆產品。

這些短視頻是誤導信息傳播的地方，幾乎不可能追蹤。Beard説：“我們擔心這些[Deepfake]會被TikTok的影響者們採用。” TikTok和Reels上的影響者通常通過贊助帖子賺錢，這可能促使他們發佈引人注目的內容來擴大自己的受眾。接下來發生的事情就是Beard所説的“內容洗白”，即Deepfake從一個社交網絡跳到另一個社交網絡。

舉個例子：去年十一月，一位TikTok影響者發佈了一個視頻，視頻中他們搖頭示意倫敦市長的（看似他們並不知情的）假音頻剪輯，TikTok將其刪除了 — 但這個視頻在Twitter和Facebook上找到了出路，並且一直保留了下來。（Facebook不會刪除政客的欺騙性音頻，而是在上面貼上警告標籤，錯誤地認為這是打擊錯誤信息的更好方式。）

與此同時，現在被稱為X的Twitter在執行自己的政策時速度較慢。它禁止政治錯誤信息，但選擇不刪除一段由AI生成的剪輯，內容是英國工黨領袖Keir Starmer的聲音，因為它想要“證據”證明音頻是假的，這是根據知情人士的説法。這段Starmer的音頻已經被英國兩大政黨和獨立事實核查組織Full Fact證實是假的。這段剪輯仍然在X上保留着。

儘管圍繞愛荷華黨內初選有很多討論，但對於民主來説，這是一個關鍵的一年，才剛剛開始升温。隨着更多選舉的展開，政黨、影響者、新聞機構和網絡騙子將爭相吸引注意力。Facebook做出了一個值得讚賞的決定，使其廣告庫具有透明性，Twitter和TikTok也應該做同樣的事情。但馬克·扎克伯格的公司也需要更新其關於欺騙性音頻的政策，並更好地監管利用政客的深度偽造廣告。

我們現在看到的深度偽造內容很快就會變成一場風暴。控制這一切的責任不會落在OpenAI的阿爾特曼身上，而是落在扎克伯格、馬斯克和其他監督充斥着虛假信息的社交平台的人身上。

更多來自彭博觀點：

想要更多彭博觀點嗎？ OPIN <GO>****。或者您可以訂閲 我們的每日新聞簡報**。**