打擊深度偽造：正在做些什麼？拜登通過機器人電話向泰勒·斯威夫特的AI圖像-Bloomberg

世界充斥着深度偽造視頻、音頻或圖片，其中人們似乎在做或説他們沒有做或説的事情，或者在他們本不在的地方。大多數深度偽造是將名人的臉部映射到其他人的身體上製作的明顯視頻和圖片。有些用於欺騙消費者，或者損害政客和其他公眾人物的聲譽。人工智能的進步意味着只需在鍵盤上輕敲幾下就能製造出這些深度偽造。擔憂的政府正在尋找對抗的方法。

1. 有什麼在進行對抗深度偽造的工作？

2月8日，美國聯邦通信委員會宣佈，公司使用人工智能生成的語音進行電話自動撥號是違法的。這項禁令是在FCC對一家公司發佈停止和解令之後的兩天發佈的，該公司製作了一段總統喬·拜登的音頻深度偽造。新罕布什爾州的居民在該州總統初選前收到了一段電話自動撥號，聽起來像是拜登敦促他們留在家裏，“把你的選票留到11月的選舉中使用。”這個聲音甚至説出了拜登的一個標誌性短語：“真是一派胡言。”目前美國聯邦法律中沒有禁止深度偽造的法律。一些州已經實施了關於深度偽造色情內容的法律，但它們的適用在全國範圍內不一致，這使得受害者難以追究製作者的責任。歐盟提出的人工智能法案要求平台將深度偽造標記為此類內容。

2. 深度偽造技術還在哪些新聞中出現過？

流行歌手泰勒·斯威夫特的深度偽造裸照在社交媒體上廣泛傳播，引起了她眾多粉絲的憤怒。這一事件引起了白宮的關注。在那個月早些時候，漫威系列中的17歲女演員索奇特·戈麥斯在社交媒體上發現了帶有她臉部的深度偽造色情圖片，並未成功將這些材料撤下，據NBC新聞報道。發表了聲明。

3. 深度偽造視頻是如何製作的？

通常是使用經過訓練的人工智能算法來製作，該算法能夠識別特定人物的真實視頻錄像中的模式，這個過程被稱為深度學習。然後可以將一個視頻的元素，比如人的臉，替換到另一個內容中，而不會看起來像是一個粗糙的蒙太奇。當與語音克隆技術一起使用時，這種操縱最具誤導性，後者將某人説話的音頻剪輯分解成半音節塊，然後重新組合成新的單詞，看起來好像是由原始錄音中的人説出來的。

4. 深度偽造技術是如何興起的？

這項技術最初是學術界和研究人員的領域。然而，Vice旗下的Motherboard在2017年報道，一個名為“deepfakes”的Reddit用户利用開源代碼設計了一個製作假視頻的算法。Reddit封禁了這個用户，但這種做法卻蔓延開來。最初，深度偽造需要已經存在的視頻和真實的聲音表演，以及熟練的編輯技能。如今的生成式人工智能系統允許用户從簡單的書面提示中製作出令人信服的圖像和視頻。只需讓計算機創建一個視頻，讓某人張嘴説話，它就會出現。隨着人工智能公司將這些新工具應用到網絡上的大量素材中，從YouTube到庫存圖像和視頻庫，這些數字偽造變得更難以察覺。

5. 有哪些其他深度偽造的例子？

中國網絡噴子傳播了操縱過的圖片，聲稱夏威夷茂伊島上的八月野火是由美國秘密測試的“天氣武器”引起的。2023年5月，一張網上流傳的圖片顯示五角大樓起火，導致美國股市短暫下跌。專家表示，這張假圖片具有人工智能生成的特徵。那年2月，出現了一段製造出來的音頻剪輯，聽起來像尼日利亞總統候選人阿提庫·阿布巴卡在策劃操縱當月選舉的聲音。2021年，社交媒體上發佈了一段長達一分鐘的視頻，似乎顯示烏克蘭總統沃洛迪米爾·澤連斯基告訴他的士兵放下武器向俄羅斯投降。

6. 這裏有什麼危險？

人們擔心深度偽造最終會變得如此逼真，以至於不可能區分真實和偽造的內容。想象一下，欺詐者通過製作偽造的視頻，顯示公司高管發佈企業更新，或者製造出士兵犯下戰爭罪行的視頻，從而操縱股價。政客、商業領袖和名人尤其面臨風險，因為有很多他們的錄音可供使用。這項技術使所謂的復仇色情成為可能，即使實際上並沒有裸照或視頻存在，通常是針對女性。一旦視頻在互聯網上走紅，幾乎不可能控制。另一個擔憂是，關於深度偽造的意識傳播會讓那些真的被拍到做或説令人反感或違法的事情的人更容易聲稱針對他們的證據是偽造的。一些人已經在法庭上使用深度偽造辯護。

7. 還有什麼其他方法可以抑制深度偽造技術？

產生深度偽造的機器學習技術不容易被逆轉以檢測它們。但荷蘭的Sensity AI和愛沙尼亞的Sentinel等少數初創公司正在開發檢測技術，許多美國大型科技公司也在進行同樣的工作。英特爾公司於2022年11月推出了FakeCatcher產品，聲稱可以通過觀察由血液流動引起的主體皮膚的微妙顏色變化，以96%的準確率檢測偽造視頻。包括微軟公司在內的公司承諾在使用其人工智能工具創建的圖像中嵌入數字水印，以區分它們是否為偽造。

參考書架

• 調查人員是如何解決拜登深度偽造問題的。
• 谷歌和微軟如何加速人工智能深度偽造色情內容。
• Swift事件已經引發了對人工智能領域長期關注的解決方案的新緊迫性。
• 相關快速瞭解生成式人工智能和人工智能監管。
• 彭博視頻介紹了Lyrebird，這家人工智能公司可以替你説話。
• 來自倫敦大學學院的研究表明，人類無法檢測出超過四分之一的深度偽造音頻錄音。

Tesla公司員工正為潛在的裁員做好準備，因為經理們被要求確認每個員工的職位是否關鍵。

據知情人士透露，最近幾天美國經理們不得不對他們的副手的角色進行二元評估，這些人要求匿名，因為這些信息是私密的。一些人表示，特斯拉在取消了一些員工的每年兩次的績效評估後，為每個工作崗位發送了單行查詢。