為什麼泰勒·斯威夫特的AI生成的深度偽造圖像引發了更廣泛的擔憂 - 彭博社

Taylor Swift 

攝影師：Matt Winkelmeyer/Getty Images世界上充斥着深度偽造視頻、音頻或圖像，讓人們看起來好像做了或説了他們沒有做或説的事情，或者出現在他們沒有出現過的地方。許多深度偽造旨在賦予虛假言論可信度，並損害政客和其他公眾人物的聲譽。但大多數深度偽造是將名人的面部映射到其他人的身體上製作的顯性視頻和圖片。這就是一月底發生的事情，當時流行歌手泰勒·斯威夫特的假顯性圖片在社交媒體上大量傳播。現在，由於人工智能讓幾乎任何人都能在鍵盤上輕點幾下就製造逼真的圖像和聲音，很難分辨你在網上看到和聽到的是否真實。

1. 泰勒·斯威夫特發生了什麼事？

斯威夫特的假圖片在社交媒體上被廣泛分享，引起了她眾多粉絲的憤怒。據《紐約時報》報道，一張在X網站（前身為Twitter）上分享的圖片在賬號被暫停前被觀看了4700萬次。斯威夫特也是聲音和圖像被篡改以看起來在背書商業產品的名人之一——在斯威夫特的情況下是一種熱門廚具品牌。

2. 深度偽造還在哪些地方成為新聞？

一月初，漫威系列中的17歲女演員索奇特爾·戈麥斯在社交媒體上發現了帶有她面孔的深度偽造色情內容，並未成功將這些內容撤下，據NBC新聞報道。深度偽造也出現在2024年美國總統選舉中。新罕布什爾州的居民在該州總統初選前收到了一條偽造的羅博電話，聲音聽起來像總統喬·拜登，敦促他們留在家裏，“為11月的選舉保留你的選票”。這個聲音甚至説出了拜登的一個標誌性短語：“真是一派胡言。”

3. 深度偽造視頻是如何製作的？

它們通常是使用訓練有素的人工智能算法制作的，該算法經過訓練，能夠識別特定人物真實視頻錄音中的模式，這個過程被稱為深度學習。然後可以將一個視頻的元素，比如一個人的臉，替換到另一段內容中，而不會看起來像是一個粗糙的蒙太奇。當與語音克隆技術一起使用時，這種操縱最具誤導性，該技術將某人説話的音頻剪輯成半音節塊，然後重新組合成新的單詞，看起來好像是由原始錄音中的人説出來的。

4. 深度偽造技術是如何興起的？

這項技術最初是學術界和研究人員的領域。然而，Vice出版的Motherboard在2017年報道稱，一個名為“deepfakes”的Reddit用户使用開源代碼設計了製作虛假視頻的算法。Reddit封禁了這個用户，但這種做法卻蔓延開來。最初，深度偽造需要已經存在的視頻和真實的聲音表演，以及熟練的編輯技能。如今的生成式人工智能系統允許用户從簡單的書面提示中產生令人信服的圖像和視頻。讓計算機創建一個視頻，讓某人張嘴説話，它就會出現。隨着人工智能公司將這些新工具應用於網絡上的大量素材，從YouTube到庫存圖像和視頻庫，數字偽造變得更難以發現。

Midjourney AI生成的教皇弗朗西斯的虛假圖像（左）和真實的教皇弗朗西斯的照片。來源：Midjourney；AFP/Getty Images### 5. 還有哪些深度偽造的例子？

中國網絡噴子傳播了操縱過的圖片，聲稱夏威夷茂伊島上的8月山火是由美國秘密測試的“天氣武器”引起的。2023年5月，一張網上流傳的圖片似乎顯示五角大樓着火，導致美國股票短暫下跌。專家表示，這張假圖片具有人工智能生成的特徵。那年2月，一段製造出來的音頻剪輯出現了，聽起來像尼日利亞總統候選人阿提庫·阿布巴卡在策劃操縱當月的選舉。2021年，社交媒體上發佈了一段長達一分鐘的視頻，似乎顯示烏克蘭總統沃洛迪米爾·澤連斯基告訴他的士兵放下武器向俄羅斯投降。

6. 這裏有什麼危險？

人們擔心深度偽造最終會變得如此逼真，以至於不可能區分真實和偽造的內容。想象一下，欺詐者通過製作偽造的視頻，顯示公司高管發佈企業更新，從而操縱股價，或者製造出士兵犯下戰爭罪行的偽造視頻。政治家、商業領袖和名人尤其面臨風險，因為有很多他們的錄音可供使用。這項技術使所謂的復仇色情成為可能，即使實際上並沒有裸照或視頻存在，通常是針對女性。一旦視頻在互聯網上走紅，幾乎不可能控制。另一個擔憂是，深度偽造的意識傳播將使那些真的被拍到做或説令人反感或違法的事情的人更容易聲稱針對他們的證據是偽造的。一些人已經在法庭上使用深度偽造辯護。

7. 有關此事有沒有采取任何行動？

產生深度偽造的機器學習類型不容易逆轉以檢測它們。但荷蘭的Sensity AI和愛沙尼亞的Sentinel等少數初創公司正在開發檢測技術，許多美國大型科技公司也在進行同樣的工作。英特爾公司於2022年11月推出了FakeCatcher產品，聲稱可以通過觀察受試者皮膚因血液流動而引起的微妙顏色變化，以96%的準確率檢測偽造視頻。包括微軟公司在內的公司承諾在使用其人工智能工具創建的圖像中嵌入數字水印，以區分它們是否為偽造。美國各州的立法機構比國會更快地採取行動來應對人工智能的直接危害。一些州已經頒佈了規範深度偽造的法律，主要是在色情和選舉方面。歐盟提出的人工智能法案要求平台將深度偽造標記為此類。

參考書目

• 有關生成式人工智能和人工智能監管的相關快速瞭解。
• 谷歌和微軟如何加速人工智能深度偽造色情。
• 彭博法律稱美國監管機構正在努力阻止深度偽造影響2024年總統選舉。
• 關於Lyrebird的彭博視頻，這是一家可以替你説話的人工智能公司。
• 來自倫敦大學學院的研究表明，人類無法檢測超過四分之一的深度偽造音頻錄音。