亞馬遜的貝索斯、賈西可能被迫在FTC調查中作證 - 彭博社

傑夫·貝索斯

攝影師：保羅·埃利斯/蓋蒂圖片社

一台ASML高NA極紫外系統來源：米歇爾·德·赫爾/ASML

亞馬遜公司未能排除包括億萬富翁創始人傑夫·貝索斯和首席執行官安迪·賈西在聯邦貿易委員會調查中作證的請求。

該公司上個月向FTC提交了一份請願書，稱該機構的信息和採訪要求“過於繁重”。

ASML控股有限公司正在展示其最新的芯片製造機器，一台價值3.5億歐元（3.8億美元）的設備，重量相當於兩架空客A320飛機。

媒體機構上週五參觀了這套被稱為高NA極紫外系統的設備。英特爾公司已經下訂單購買了這台機器，並於去年12月底將第一台運送到俄勒岡州的工廠。該公司計劃於2025年底開始使用這台機器生產芯片。

世界充斥着深度偽造視頻、音頻或圖片，其中人們似乎在做或説他們沒有做或説的事情，或者在他們沒有去過的地方。大多數深度偽造是通過將名人的臉部映射到其他人身上而製作的明顯視頻和圖片。有些被用來欺騙消費者，或者損害政客和其他公眾人物的聲譽。人工智能的進步意味着只需在鍵盤上輕敲幾下就能製造出這些內容。擔憂的政府正在尋找方法來反擊。

1. 什麼措施正在採取來對抗深度偽造？

2月8日，美國聯邦通信委員會宣佈，公司使用AI生成的語音進行電話轟炸是違法的。這項禁令是在FCC對負責製作總統喬·拜登音頻深度偽造的公司發佈了停止和解令兩天後頒佈的。新罕布什爾州居民在該州總統初選前收到了一條電話轟炸，聽起來像是拜登敦促他們留在家裏，“為11月的選舉保留你的選票。”這個聲音甚至説出了拜登的一個標誌性短語：“真是一派胡言。”目前美國沒有聯邦法律禁止深度偽造。一些州已經實施了關於深度偽造色情內容的法律，但它們的適用在全國範圍內不一致，這使得受害者難以追究製作者的責任。歐盟提出的AI法案將要求平台將深度偽造標記為此類。

2. 深度偽造在哪些地方還出現在新聞中？

一月底，流行歌手泰勒·斯威夫特的深度偽造色情圖片在社交媒體上廣泛傳播，引起了她眾多粉絲的憤怒。這一事件引起了白宮的關注。當月早些時候，漫威系列中的17歲女演員Xochitl Gomez發表了聲明，報告稱她在社交媒體上發現了帶有她臉部的性暴力深度偽造視頻，並未成功將這些內容撤下。

3. 深度偽造視頻是如何製作的？

它們通常是使用訓練有素的AI算法制作的，該算法經過訓練，能夠識別特定人物真實視頻錄音中的模式，這個過程被稱為深度學習。然後可以將一個視頻的元素，比如人的臉，替換到另一段內容中，而不會看起來像是一個粗糙的蒙太奇。當與語音克隆技術一起使用時，這種操縱最具誤導性，該技術將某人説話的音頻剪輯分解為半音節塊，然後重新組合成新的單詞，看起來好像是原始錄音中的人説的。

Midjourney AI生成的教皇弗朗西斯的假照片，左邊，和真實的教皇弗朗西斯的照片。來源：Midjourney；AFP/Getty Images### 4. 深度偽造技術是如何興起的？

這項技術最初是學術界和研究人員的領域。然而，Vice出版的Motherboard在2017年報道稱，一個名為“deepfakes”的Reddit用户使用開源代碼設計了一個製作假視頻的算法。Reddit封禁了這個用户，但這種做法卻傳播開來。最初，深度偽造需要已經存在的視頻和真實的聲音表現，以及熟練的編輯技巧。如今的生成式AI系統允許用户從簡單的書面提示中產生令人信服的圖像和視頻。讓計算機創建一個視頻，讓某人張嘴説話，它就會出現。隨着AI公司將這些新工具應用於網絡上可用的大量素材，從YouTube到庫存圖像和視頻庫，數字偽造變得更難被發現。

5. 有哪些其他深度偽造的例子？

中國網絡 trolls 散佈了操縱過的圖片，聲稱夏威夷茂宜島上的八月野火是由美國正在測試的秘密“氣象武器”引起的。2023年5月，一張在線傳播的圖片顯示五角大樓着火後，美國股市短暫下跌。專家表示，這張假圖片具有由人工智能生成的特徵。那年二月，出現了一段製造的音頻剪輯，聽起來像尼日利亞總統候選人阿提庫·阿布巴卡在密謀操縱當月的選舉。2021年，社交媒體上發佈了一段一分鐘長的視頻，似乎顯示烏克蘭總統沃洛迪米爾·澤連斯基告訴他的士兵放下武器向俄羅斯投降。

6. 這裏存在什麼危險？

人們擔心深度偽造最終會變得如此令人信服，以至於不可能區分真實和虛假。想象一下，欺詐者通過製作偽造的視頻，顯示首席執行官發佈公司更新，或者製造出士兵犯下戰爭罪行的視頻，從而操縱股價。政治家、商業領袖和名人尤其面臨風險，因為有很多他們的錄音可供使用。這項技術使所謂的復仇色情成為可能，即使沒有實際的裸照或視頻，女性通常成為目標。一旦視頻在互聯網上走紅，幾乎不可能控制。另一個擔憂是，關於深度偽造的傳播會讓那些真的被拍到做或説令人反感或違法的事情的人更容易聲稱針對他們的證據是偽造的。一些人已經在法庭上使用深度偽造辯護。

7. 還有什麼其他方法可以抑制深度偽造技術？

生成深度偽造技術的機器學習不容易被逆轉以檢測它們。但一些初創公司，如總部位於荷蘭的Sensity AI和總部位於愛沙尼亞的Sentinel，正在開發檢測技術，許多美國大型科技公司也在進行類似工作。英特爾公司在2022年11月推出了一款名為FakeCatcher的產品，據稱可以通過觀察受試者皮膚因血液流動而引起的微妙顏色變化，以96%的準確率檢測偽造視頻。包括微軟公司在內的公司承諾在使用其AI工具創建的圖像中嵌入數字水印，以區分它們是否為偽造。

參考書目

• 調查人員是如何解決拜登深度偽造問題的。
• 谷歌和微軟如何加速AI深度偽造色情內容。
• Swift事件已經引發了AI領域長期關注的問題的新緊迫性。
• 有關生成AI和AI監管的相關快速瞭解。
• 彭博視頻介紹了Lyrebird，這家AI公司可以替你説話。
• 來自倫敦大學學院的研究表明，人類無法檢測到超過四分之一的深度偽造音頻錄音。