什麼是Deepfakes？德克薩斯州、加利福尼亞州和其他美國州試圖監管人工智能技術 - 彭博社
Isaiah Poritz
前總統唐納德·特朗普擁抱並親吻他的前首席醫療顧問安東尼·福奇的圖片。好萊塢女演員和網絡名人的色情描繪。五角大樓爆炸的照片。
所有這些都被發現是“深度偽造”，這是利用不斷發展的人工智能技術創造的高度逼真的音頻和視覺內容。
受到數字偽造傷害的人，尤其是未經同意出現在深度偽造色情內容中的女性，幾乎沒有法律救濟的選擇，全國各地的立法者現在正竭力填補這一空白。
“一個誠實呈現的色情深度偽造未必違反任何現行法律，”西北大學法學教授馬修·庫格勒説，他支持伊利諾伊州一項反深度偽造法案，目前正在州長面前等待批准。
“你正在拿一個公開的東西，你的臉，和完全來自另一個人的東西，所以根據許多現行法規和侵權行為，並沒有明顯的起訴人們的方式，”他説。
對生成式人工智能的潛力的最近興趣已經促使今年舉行了多次國會聽證會，並提出了多項旨在監管這一新興技術的提案。但由於聯邦政府陷入僵局，州立法機構更快地推進了旨在解決人工智能的直接危害的法律。
九個州已經頒佈了關於調控深度偽造視頻的法律，主要涉及色情內容和選舉影響，至少另外四個州的法案正在立法過程中的不同階段。
加利福尼亞州、德克薩斯州和弗吉尼亞州是2019年首批頒佈深度偽造視頻立法的州，早於當前對人工智能的狂熱。明尼蘇達州最近在五月頒佈了一項深度偽造視頻法律，伊利諾伊州的一項類似法案正在等待州長簽署。
威爾默哈爾律師事務所的律師馬修·費拉羅表示：“人們經常談論立法的緩慢、冰川時代的步伐，但在這個領域，情況並非如此。”
科技推動法律
“深度偽造視頻”這個術語首次出現在2017年的互聯網上，當時一個名叫“深度偽造”的Reddit用户開始發佈使用人工智能算法將名人的臉部數字添加到真實成人視頻中的假色情視頻，而這些視頻並未經過當事人同意。
今年早些時候，未經同意的深度偽造色情視頻的傳播在視頻遊戲直播社區引發了爭議，突顯了無限制的深度偽造視頻帶來的巨大危害以及法律救濟的缺乏。受歡迎的主播QTCinderella表示，她受到了向她發送這些圖片的互聯網用户的騷擾，曾威脅要起訴製作深度偽造視頻的人，但後來被律師告知她沒有案子。
自那時以來，互聯網上流傳的深度偽造視頻數量激增。Deeptrace Labs是一家識別深度偽造視頻的服務機構，2019年發佈了一份廣受關注的報告，發現在線存在近15000個深度偽造視頻，其中96%是涉及女性的色情內容。同樣也能檢測深度偽造視頻的Sensity AI表示，自2018年以來，深度偽造視頻數量呈指數級增長。
“技術不斷進步，除非你是數字取證專家，否則很難分辨某物是否為假，”洛約拉瑪利蒙特大學法學教授麗貝卡·德爾菲諾研究深度偽造技術。
這不僅加劇了在線和政治競選中的錯誤信息傳播。共和黨總統候選人羅恩·德桑蒂斯的一則攻擊廣告似乎顯示特朗普在一系列照片中擁抱福奇，但其中一些圖片是由AI生成的。
五月份開始在Twitter上流傳的一張虛假但逼真的照片顯示五角大樓發生爆炸，導致股市暫時下跌。
在某種意義上，合成媒體已經存在幾十年了，使用基本的照片處理技術，最近還有像Photoshop這樣的程序。但是，非技術性的互聯網用户現在可以輕鬆地創建高度逼真的數字偽造品，這推動了新法律的制定。
“正是這種技術的速度、規模、可信度和獲取性結合在一起，創造了這種‘女巫的釀造’，”費拉羅説。
尋找解決方案
沒有一項特定的法律來解決深度偽造色情內容，受害者的法律選擇有限。一系列知識產權、隱私和誹謗法理論上可以讓受害者起訴或獲得正義。
洛杉磯聯邦法院目前正在審理一起肖像權訴訟案，涉及一位真人秀名人稱他從未同意一款AI應用程序，該應用程序允許用户在他的臉上數字化貼上自己的臉。但是，肖像權法律因州而異，只有在肖像被用於商業目的時才保護一個人的形象。
四十八個州對報復色情有刑事禁令，一些州還有反對“偷窺”的法律，這涉及未經同意拍攝他人私密部位的照片。受害者也可以起訴誹謗，但如果深度偽造包含免責聲明表明其是虛假的，那些法律不一定適用，西北大學法學教授庫格勒説。
卡羅琳·福特，Minc Law律師事務所的律師，專門幫助報復色情受害者，表示儘管許多受害者可以根據這些法律獲得救濟，但這些法規並不是針對深度偽造而制定的。
“在這些情況下，擁有一部非常清晰表明立法機構試圖看到這種巨大傷害並試圖彌補這種傷害的法規總是更可取的，”她説。
各州的法律拼圖
迄今為止各州頒佈的法律範圍各不相同。
在夏威夷、得克薩斯、弗吉尼亞和懷俄明，非自願色情深度偽造只是一種刑事違法行為，而紐約和加利福尼亞的法律只創造了一項私人訴訟權，允許受害者提起民事訴訟。最近明尼蘇達州的法律概述了刑事和民事處罰。
找到合適的被告可能很困難，而當談到她處理的淫穢復仇案件時，福特表示當地執法部門並不總是合作。許多客户只希望刪除圖像或視頻，卻沒有資源來提起訴訟。
深度偽造的定義在各州之間也有所不同。有些州像德克薩斯直接提到人工智能，而其他州只包括“計算機生成圖像”或“數字化”等術語。
許多州同時修改了選舉法規，以禁止在選舉前特定時間段內在競選廣告中使用深度偽造技術。
言論自由的擔憂
像大多數新技術一樣，深度偽造技術也可以用於無害的目的：製作模仿、復活歷史人物或配音電影，所有這些活動都受到第一修正案的保護。
在禁止有害深度偽造技術的同時保護合法使用的平衡並不容易。“你會看到政策制定者確實在掙扎，”洛約拉大學法學教授德爾菲諾説。
伊利諾伊州美國公民自由聯盟最初反對該州的淫穢深度偽造法案，認為儘管深度偽造技術可能造成真實傷害，但該法案的廣泛規定和立即刪除條款可能“抑制或使大量受保護的言論沉默。”
最近的修正案將深度偽造技術納入伊利諾伊州現有的復仇淫穢法案中，這是一個“重大改進”，該組織的傳訊主任埃德·約恩卡在一封電子郵件中説。“我們仍然擔心該法案的措辭降低了現有的法律門檻，”他説。
德爾菲諾表示，上個月國會提出的一項深度偽造法案可能會引發類似的擔憂，因為它的例外僅限於“合法公共關注事項”。
她指出，加利福尼亞的法規明確提到了第一修正案的保護。她説，如果國會想要“真正認真對待這個問題，他們需要在這項提案上做更多工作。”
庫格勒表示，第一批深度偽造法律主要針對非自願色情內容，因為在言論自由問題上，這些案件是“易取之果”。他説，情感困擾和尊嚴和聲譽受損是明顯的，而言論自由的好處是微不足道的。
德爾菲諾長期以來一直倡導更嚴格的報復色情法律，並一直關注深度偽造色情內容自引起關注以來的崛起。她表示，她很高興對AI的持續關注正在推動對更嚴格法律的要求。
“像許多涉及對婦女和少數羣體犯罪以及對婦女和少數羣體物化的事情一樣，它們每隔一段時間就會引起關注，然後公眾就會移開，”她説。“但現在，人們又開始重新關注深度偽造技術。”
要聯繫本文記者：華盛頓的以賽亞·波里茨，郵箱：[email protected]
聯繫負責此故事的編輯：Jay-Anne B. Casuga，郵箱 [email protected]；James Arkin，郵箱 [email protected]