深度偽造技術帶來的危險 - 《華爾街日報》

機器人、網絡水軍、影響力攻勢：我們似乎每天都在與網絡上更多虛假或人為操控的內容作鬥爭。由於計算能力的進步、更智能的機器學習算法和更龐大的數據集，我們很快將與一系列由人工智能生成的新聞文章、播客、深度偽造圖片和視頻共享數字空間——所有這些內容的生產規模和速度都曾是不可想象的。根據2018年的一項研究，當時在線深度偽造內容不到1萬例。如今，網絡上的深度偽造內容幾乎肯定已達數百萬。

我們幾乎無法想象人們會為這種新型合成媒體找到的所有用途，但我們已經看到的情況足以引起擔憂。學生可以讓ChatGPT代寫論文。跟蹤狂可以製作包含他們痴迷對象形象的色情視頻。犯罪分子可以合成你老闆的聲音，指示你轉賬。

深度偽造不僅帶來犯罪風險，還對國家安全構成威脅。2020年，為了在美國煽動分裂，俄羅斯使用了傳統的宣傳手段，散佈關於疫苗接種的假新聞，並選擇性展示“黑人的命也是命”抗議活動中的真實破壞畫面。深度偽造技術將此類手段提升到新高度，能夠創造出令人信服的替代現實。例如，2022年俄羅斯發佈了一段粗糙的深度偽造視頻，顯示烏克蘭總統弗拉基米爾·澤連斯基呼籲烏克蘭人放下武器。

想象一下，隨着技術日益精進，未來可能出現的情形。試圖招募成員的聖戰分子可能展示法國總統埃馬紐埃爾·馬克龍詆譭伊斯蘭教的可信視頻片段。中國入侵台灣可能以一段台灣海軍指揮官命令其部隊放行中國軍隊的深度偽造視頻為開端。參戰士兵在讀到數千條表面上來自戰友、實則由ChatGPT生成的煽動性Facebook帖子後，可能會陷入絕望。這種信息戰的規模、速度和逼真程度，可能會壓垮軍隊和情報機構的防禦能力。

在國內，深度偽造技術可能導致人們對所有信息產生懷疑。士兵可能不信任真實的命令，公眾或許認為真實的醜聞和暴行並非事實。普遍存在的猜疑氛圍將使政客及其支持者能夠將任何關於他們的負面報道斥為虛假或誇大。

中國強大的網信部門已預見到此類擔憂。今年1月，北京開始實施針對深度偽造內容的新規，從嚴格規定要求合成人像必須獲得本人同意，到更具奧威爾色彩的禁令——禁止"傳播虛假新聞"。

民主社會也需要開始應對深度偽造的潛在危害，但我們不能照搬中國的做法。我們需要一種既能維護思想言論自由流動，又能保障公民辨別真偽信息交流的應對方案。虛假信息的危險性恰恰在於它動搖了真相的根基。類似北京的禁令會加劇這個問題，因為它將真偽判斷權變為政府特權，容易受到政治因素和暴力執法的影響。

民主國家的應對方案較為複雜，需要融合技術、監管和社會多管齊下。英特爾公司已從技術層面着手——去年11月其研究人員提出的FakeCatcher系統號稱識別準確率達96%。這個數字令人印象深刻，但考慮到合成內容的海量產出，即使99%準確率的檢測器也會漏掉數量驚人的虛假信息。更何況政府將僱傭高技能程序員，這意味着官方製作的深度偽造內容最難被識別。即便最精妙的檢測器也有侷限，因為檢測技術的突破幾乎必然會被用於改進下一代深度偽造算法。

有一種變通方法或許能幫助檢測技術領先於這種循環，這與社交媒體公司已在探索的一項技術相關。檢測技術的開發者可以少關注視頻或圖像本身，而更多關注其使用方式，通過創建分析元數據和上下文的算法。社交媒體平台目前部署這類工具來檢測用於某些平台所稱“不真實行為的協同行動”的虛假賬户——這一術語涵蓋伊朗、俄羅斯等惡意行為者散播虛假信息或抹黑特定公眾人物的行為。針對深度偽造的此類算法將能區分，比如，一幅雷諾阿風格的親人深度偽造畫作與展示裸體名人或吸毒政治人物的深度偽造內容。

美國政府及其他民主國家無法直接告訴民眾何為真假，但它們可以要求大規模生產和分發合成媒體的公司提高算法透明度。公眾應知曉平台的策略及這些規則如何執行。傳播深度偽造的平台甚至可被要求允許獨立第三方研究人員研究這類媒體的影響，並監督平台算法是否按政策運行。

深度偽造將改變民主國家許多機構的運作方式。軍方需要非常安全的系統來驗證命令，確保自動化系統不會被潛在的深度偽造觸發。應對危機的政治領袖必須預留延遲時間，以確保面前的信息未被對手偽造或部分篡改。記者和編輯必須對爆炸性新聞保持警惕，加倍堅持多方核實事實的標準。在存疑情況下，媒體可用醒目的“此信息未經核實”標籤標註部分新聞。

最終，公眾將不得不區分善意運作的信息來源與旨在操縱的信息來源。許多民主國家在媒體素養方面面臨挑戰，但芬蘭提供了一個有希望的範例。在那裏，媒體素養從學前教育開始就被納入學校課程，圖書館已成為成人媒體素養教育的中心。芬蘭目前在抵禦錯誤信息方面排名世界第一。

民主的本質決定了沒有任何單一政策能有效遏制虛假信息的擴散。要解決這個問題，自由社會需要多方努力，並且與中國的"真理部"做法形成對比，應優先保持開放的討論並尊重公民的辨別力。關鍵是要在深度偽造技術滲入並壓倒我們的信息生態系統之前啓動這一進程。一旦發生，不信任和混亂將更難控制。

拜曼、梅瑟羅爾和蘇布拉馬尼安先生們（與高重陽合著）是布魯金斯學會新研究報告《深度偽造與國際衝突》的共同作者，本文改編自該報告。

刊登於2023年2月25日印刷版，標題為《即將到來的深度偽造危險》。