什麼是深度偽造和裸體化應用？能否阻止它們？——彭博社

2024年6月於華盛頓特區舉行的《下架法案》新聞發佈會現場。攝影師：安德魯·哈尼克/蓋蒂圖片社互聯網充斥着深度偽造內容——通過人工智能工具生成的音頻、圖片或視頻，使人們看似做了或説了他們未曾做過的事，出現在未曾去過的地方，或是改變了外貌。部分涉及"裸體化"技術，即修改照片使人物呈現裸露狀態。其他深度偽造則被用於欺詐消費者，或損害政界人士等公眾人物的聲譽。

人工智能的進步使得僅需鍵盤敲擊幾下就能生成逼真的深度偽造內容。警覺的各國正試圖反擊，但始終處於下風。身份驗證公司Signicat數據顯示，過去三年使用深度偽造的欺詐嘗試增長了20倍以上。

如何應對深度偽造？

5月19日，美國總統唐納德·特朗普簽署了《下架法案》，將未經同意的AI生成色情內容（即深度偽造復仇色情）定為刑事犯罪，並強制社交媒體公司接到請求後刪除此類露骨性影像的分享。

去年，美國聯邦通信委員會宣佈企業在自動呼叫中使用AI生成語音屬違法行為。該禁令出台前兩天，FCC剛向製作拜登總統音頻深度偽造的公司發出停止令。新罕布什爾州居民曾在總統初選前接到自動電話，聲音酷似拜登慫恿他們"留在家中，把選票留到11月大選"。

歐盟《人工智能法案》要求平台對深度偽造內容進行標註。中國也在2023年實施了類似立法。4月28日，英格蘭兒童事務專員呼籲英國政府封禁網絡上氾濫的裸體合成應用。

深度偽造技術還有哪些新聞事件？

2024年1月，流行歌手泰勒·斯威夫特的露骨深度偽造圖片在社交媒體瘋傳，引發其粉絲羣情激憤及白宮關注。2024年美國總統大選期間，埃隆·馬斯克分享了一段民主黨候選人卡瑪拉·哈里斯的深度偽造競選視頻且未標註誤導性。這段經AI篡改聲音的視頻顯示她稱喬·拜登總統"老糊塗"，並宣稱自己’對國家治理一竅不通’。該視頻獲得數千萬瀏覽量。作為回應，加州州長加文·紐森簽署法案，於9月起禁止數字篡改的政治類深度偽造內容。

深度偽造視頻如何製作？

通常採用能識別特定人物真實影像模式的AI算法（即深度學習）進行製作。通過該技術可將視頻元素（如人臉）自然融合到其他內容中，毫無粗劣拼接感。當結合語音克隆技術時欺騙性最強——該技術將原始錄音分解為半音節片段，可重組為原聲者"説出"的全新語句。

深度偽造技術是如何興起的？

這項技術最初屬於學術界和研究人員的領域。然而，Vice旗下的Motherboard在2017年報道稱，一位名為"deepfakes"的Reddit用户利用開源代碼開發了製作虛假視頻的算法。Reddit封禁了該用户，但這種技術卻傳播開來。最初，深度偽造需要已有視頻素材、真實的語音表演以及嫺熟的剪輯技巧。

如今的生成式AI系統允許用户通過簡單的文字指令就能製作出令人信服的圖像和視頻。讓電腦生成一段將話語強加於某人的視頻，它就能立即呈現。

如何識別深度偽造內容？

隨着AI公司將新工具應用於網絡上海量素材（從YouTube到圖庫視頻庫），數字偽造品變得越來越難以辨別。

有時會出現明顯的破綻表明圖像或視頻是由AI生成的，比如錯位的肢體或六根手指的手。圖像中被編輯和未編輯部分的顏色可能存在不一致。深度偽造視頻有時會出現語音與嘴型不匹配的情況。AI可能難以呈現頭髮、嘴巴和陰影等元素的精細細節，物體邊緣有時會出現鋸齒和像素化。

但隨着底層歌唱模型的改進，所有這些都可能發生變化。

深度偽造還有哪些其他案例？

2023年8月，中國網絡水軍傳播了夏威夷毛伊島野火的篡改圖像，以支持這些火災是由美國測試的秘密“氣象武器”引發的説法。2023年5月，一張顯示五角大樓起火的圖片在網上流傳後，美國股市短暫下跌。專家表示，這張假圖片具有人工智能生成的特徵。同年2月，一段偽造的音頻片段出現，內容聽起來像是尼日利亞總統候選人阿提庫·阿布巴卡爾策劃操縱當月選舉。2021年，社交媒體上發佈的一段一分鐘視頻似乎顯示烏克蘭總統弗拉基米爾·澤連斯基命令士兵放下武器向俄羅斯投降。其他深度偽造內容則無害，比如足球明星克里斯蒂亞諾·羅納爾多演唱阿拉伯詩歌的視頻。

這有什麼危險？

人們擔心深度偽造最終會變得如此逼真，以至於無法區分真實與虛構。想象一下，欺詐者通過製作偽造的首席執行官發佈公司更新的視頻，或偽造士兵犯下戰爭罪行的視頻來操縱股價。政治家、商界領袖和名人尤其面臨風險，因為他們的錄音和錄像資料眾多。

這項技術使得所謂的復仇色情成為可能，即使沒有實際的裸照或視頻存在，女性通常是目標。一旦視頻在互聯網上瘋傳，幾乎無法控制。英國兒童事務專員4月的報告強調了兒童越來越擔心成為露骨深度偽造的受害者。另一個擔憂是，對深度偽造的廣泛認知會讓那些真正在錄像中做了或説了令人反感或非法事情的人更容易聲稱針對他們的證據是偽造的。一些人已經在法庭上使用深度偽造作為辯護理由。

還有哪些方法可以遏制深度偽造？

生成深度偽造的機器學習技術難以逆向用於檢測。但荷蘭Sensity AI、愛沙尼亞Sentinel等初創公司正與多家美國科技巨頭共同研發檢測技術。

包括微軟公司在內的企業已承諾在其AI工具生成的圖像中嵌入數字水印以標識偽造內容。ChatGPT開發商OpenAI不僅研發了AI圖像檢測技術，還開發了文本水印方案——不過後者尚未發佈，部分原因是該公司表示惡意行為者"很容易"規避該技術。

延伸閲讀

• 調查人員如何破解拜登深度偽造案
• 谷歌與微軟如何助推AI偽造色情內容氾濫
• 泰勒·斯威夫特事件使解決AI領域長期隱患的緊迫性驟增
• 彭博早前關於生成式AI與AI監管的解讀
• 彭博視頻報道AI公司Lyrebird如何實現語音克隆
• 倫敦大學學院研究顯示人類對超過四分之一的偽造音頻無法識別