什麼是深度偽造和裸體化應用？它們能被阻止嗎？——彭博社

2024年6月於華盛頓特區舉行的《下架法案》新聞發佈會現場。攝影師：安德魯·哈尼克/蓋蒂圖片社互聯網充斥着深度偽造內容——通過人工智能工具生成的音頻、圖片或視頻，使人們看似做了或説了未曾發生的事，出現在未曾去過的地方，或是改變了外貌特徵。部分涉及"裸體化"技術，即篡改照片使人呈現裸露狀態。其他深度偽造則被用於詐騙消費者，或損害政界人士等公眾人物的聲譽。

人工智能的進步使得僅需鍵盤敲擊幾下就能生成逼真的深度偽造內容。警覺的各國政府正試圖反擊，但始終處於下風。身份驗證公司Signicat數據顯示，過去三年間利用深度偽造實施的欺詐嘗試增長了逾20倍。

當前採取了哪些反制措施？

4月28日，美國眾議院通過《下架法案》，將未經同意的AI生成色情內容（即深度偽造復仇色情）定為刑事犯罪。該法案得到第一夫人梅拉尼婭·特朗普支持，預計將由唐納德·特朗普總統簽署生效。同日，英格蘭兒童事務專員呼籲英國政府禁止網絡上廣泛流通的裸體化應用程序。

去年，美國聯邦通信委員會規定企業禁止在自動語音電話中使用AI生成的聲音。該禁令出台前兩天，FCC剛對一家公司發出停止令，該公司製作了拜登總統的音頻深度偽造內容。新罕布什爾州居民在該州總統初選前接到自動語音電話，聲音酷似拜登，敦促他們留在家中"把選票留到11月大選"。

歐盟《人工智能法案》要求平台對深度偽造內容進行標註。中國也在2023年實施了類似立法。

深度偽造技術還引發過哪些新聞事件？

2024年1月，流行歌手泰勒·斯威夫特的露骨深度偽造圖片在社交媒體瘋傳，引發其粉絲強烈不滿及白宮關注。

2024年美國總統大選期間，埃隆·馬斯克分享了一段民主黨候選人卡瑪拉·哈里斯的深度偽造競選視頻且未標註誤導性。這段經AI處理的視頻中，她似乎稱拜登總統"年老昏聵"，並宣稱自己"對國家治理一竅不通"。該視頻獲得數千萬瀏覽量。作為回應，加州州長加文·紐森簽署法案，於9月起禁止數字篡改的政治深度偽造內容。

深度偽造視頻是如何製作的？

它們通常通過AI算法制作，該算法經過訓練能識別特定人物真實視頻中的模式，這一過程稱為深度學習。隨後可以將一個視頻中的元素（如人臉）無縫替換到另一段內容中，使其看起來不像粗糙的剪輯。當結合語音克隆技術使用時，這種篡改最具迷惑性——該技術將某人説話的音頻分解為半音節片段，可重組為聽起來像原聲者所説的新詞句。

深度偽造技術如何興起？

這項技術最初屬於學術界和研究領域。然而2017年Vice旗下媒體Motherboard報道，一位名為"deepfakes"的Reddit用户利用開源代碼開發了製作虛假視頻的算法。Reddit封禁了該用户，但技術迅速傳播。早期的深度偽造需要既有視頻素材、真實人聲錄音及嫺熟的剪輯技巧。

如今生成式AI系統僅需簡單文字指令就能製作逼真圖像視頻。讓電腦生成一段讓人"口吐特定台詞"的視頻，它就能立即呈現。

如何識別深度偽造？

隨着AI公司將新工具應用於網絡海量素材（從YouTube到商用圖庫），數字偽造品越來越難辨別。

但AI生成的圖像視頻仍可能存在破綻：錯位的肢體、六根手指的人手、圖像編輯與未編輯部分的色差。視頻中可能出現口型與語音不同步的情況。AI在渲染頭髮、嘴唇和陰影等細節時可能力有不逮，物體邊緣有時會呈現鋸齒狀像素化。

但隨着底層模型的進步，這一切都可能改變。

深度偽造的其他案例有哪些？

2023年8月，中國網絡水軍傳播了夏威夷毛伊島野火的篡改圖像，以支持其聲稱火災由美國測試的秘密“氣象武器”引發的論斷。2023年5月，一張顯示五角大樓起火的圖片在網上流傳後，美國股市短暫下跌。專家稱該假圖具有AI生成的特徵。同年2月，一段偽造音頻曝光，內容疑似尼日利亞總統候選人阿提庫·阿布巴卡爾密謀操縱當月選舉。2021年，社交媒體上一分鐘視頻看似顯示烏克蘭總統澤連斯基命令士兵向俄羅斯繳械投降。其他深度偽造內容則無害，如足球明星C羅吟誦阿拉伯詩歌的視頻。

這有何危害？

令人擔憂的是，深度偽造終將逼真到難辨真偽。試想：詐騙者通過偽造CEO發佈企業動態的視頻操縱股價，或偽造士兵犯下戰爭罪行的影像。政客、商界領袖和名人尤其危險，因其公開影像資料眾多。

該技術使所謂"復仇色情"成為可能——即便沒有真實裸照或視頻，女性通常成為目標。一旦視頻在互聯網瘋傳，幾乎無法遏制。英國兒童事務專員四月報告指出，兒童越來越恐懼成為露骨深度偽造的受害者。另一重憂慮是：隨着公眾對深度偽造認知提升，真實醜聞當事人可能更容易辯稱不利證據系偽造。已有法庭案例出現"深度偽造抗辯"。

還有哪些方法可以抑制深度偽造？

生成深度偽造的機器學習技術難以逆向用於檢測它們。但荷蘭的Sensity AI和愛沙尼亞的Sentinel等少數初創公司以及許多美國大型科技公司一直在開發檢測技術。

包括微軟公司在內的企業已承諾在其AI工具生成的圖像中嵌入數字水印，以標記其為偽造。ChatGPT開發者OpenAI已開發出AI圖像檢測技術及文本水印方案——不過後者尚未發佈，部分原因是該公司表示惡意行為者"很容易"該技術。

參考資料

• 調查人員如何破解拜登深度偽造案。
• 谷歌和微軟如何助推AI深度偽造色情。
• 泰勒·斯威夫特事件為AI領域長期關注的問題注入了新緊迫性。
• 相關快評關於生成式AI和AI監管。
• 彭博關於會"代你説話"的AI公司Lyrebird的視頻報道。
• 倫敦大學學院研究表明人類無法識別超過四分之一的深度偽造音頻。