關於深度偽造的坦白引發疑問：這算犯罪嗎？播客 - 彭博社
Olivia Carville, Margi Murphy
插圖：易卜拉欣·拉因塔卡思 訂閲《萊維敦》播客，請訪問iHeartPodcasts、蘋果播客、Spotify或您獲取播客的任何平台。也可在終端上收聽。歡迎收聽《萊維敦》第四集。關於本播客系列的更多詳情請點擊此處*，下方附有本集文字稿。*
2021年9月5日傍晚，兩名警探駕車穿過萊維敦一處安靜的社區，在一棟淺藍色的小屋前停下。
此時距離萊維敦數十名年輕女性發現自己的面容被合成到網絡騷擾網站的色情圖片上已過去八個月。就在當天早晨，又有一名女性來到當地警局報案稱自己成為目標。
“當時我和搭檔對視一眼，[説]這事必須立刻了結，”首席警探蒂莫西·英格拉姆在《萊維敦》第四集中回憶道。他們已調查數月，但此刻終於獲得了看似關鍵的證據——由一名受害者親手遞交。所有線索都指向女孩們就讀的道格拉斯·麥克阿瑟高中的前同學……帕特里克·凱里。
英格拉姆和他的搭檔敲響了門。據英格拉姆回憶，凱里開了門，他的母親在一旁看着。探員們念出了發佈在網站上的一則謀殺強姦幻想內容。“他直視着我們的眼睛説，‘是的，是我乾的’“英格拉姆説道。
但供認僅僅是開始。現在檢察官們需要判定凱里的行為是否構成違法。在拿騷縣地區檢察官辦公室，檢察官梅麗莎·斯坎內爾和凱爾西·洛雷有90天時間來確定是否有任何舊法律適用於這種全新科技。
第四集文字實錄：“這怎麼不算違法”
我們的文字實錄由軟件和人工編輯共同生成，文本與音頻可能存在細微差異。印刷引用前請核對音頻內容。本系列涉及未成年人性化影像及暴力內容，收聽時請注意。
奧利維亞·卡維爾 紐約警探蒂莫西·英格拉姆正在執行逮捕任務的路上。自新年夜多名年輕女性首次報警以來，他調查萊維敦深度偽造案件已有八個月。他受夠了。傍晚五點鐘，蒂姆和搭檔駕車穿過萊維敦安靜的社區，在一棟淡藍色科德角風格的小屋前停下。
蒂莫西·英格拉姆警探 看起來就是普通房子。草坪修剪得很整齊…
奧利維亞·卡維爾 這棟房子後院與一所小學共用圍欄。
英格拉姆探員 那只是一棟普通的房子，你根本想不到裏面會發生這種事。
奧利維亞·卡維爾 那天早上，又一位年輕女性走進當地警局，講述了一個如今已耳熟能詳的故事——與許多其他人的遭遇如出一轍。但這次，偵探們已經掌握了一些關鍵證據。證據顯示，這些帖子的幕後黑手是這些女性都認識的一個男人——她們的高中同學帕特里克·凱里。
英格拉姆探員 當時我和搭檔對視一眼，[説]：這事必須到此為止。不管我們是去他家後他閉口不言，還是坦白承認。無論如何他都要跟我們走。我們到他家敲門時，是帕特里克·凱里開的門。我記得他開門時好像沒穿上衣。我們表明偵探身份後，要求他出來談談。
於是他轉身告訴母親我們來了，他母親也跟了出來。他坐在門前台階上，母親站在身旁。我們問他是否知道來意，他説不知道。我們説：好吧，我們想和你聊聊網上的一些事。我説：現在我要把這些念給你聽。
我要讓他親耳聽聽自己寫下的內容。我想看看當別人知曉他的所作所為時，他會有什麼反應。
就在那時，我們開始閲讀這份謀殺/性侵幻想記錄。讀到大約中間部分時，他母親突然讓我們停下。她盯着他，對他説了些嚴厲的話。而他直視着我們的眼睛説：沒錯，是我乾的。
奧利維亞·卡維爾 他母親具體對他説了什麼嚴厲的話？
英格拉姆探員呃，我記得她説的是"你他媽就是個混蛋”。
奧利維亞·卡維爾 哇。
英格拉姆探員是的。那一刻我們不需要再問什麼了。他未經任何審問就承認了全部罪行。
奧利維亞·卡維爾 我們曾嘗試就本報道採訪帕特里克及其家人，但遭到拒絕。
奧利維亞·卡維爾 你還記得他被捕時你的反應嗎？
塞西莉亞 記得。我震驚於警方竟掌握了足夠證據逮捕他。
奧利維亞·卡維爾 距離帕特里克時斷時續的高中好友塞西莉亞向警方作證已過去數月。她知道調查仍在繼續，但以為不會有什麼結果——
塞西莉亞——因為事發時，我覺得那些根本不夠定罪。那雖然是威脅，是捕食行為，很危險，但我不認為法律會這麼看。我不覺得他們會認可——不認為他們會把這看作需要懲處監禁的罪行。我早就不抱希望了。所以得知他被捕時，我簡直震驚極了。
奧利維亞·卡維爾 塞西莉亞所擔憂的——關於帕特里克·凱里對她所做之事是否構成犯罪——正是本案檢察官們反覆糾結的核心問題。帕特里克·凱里的行為固然惡劣…但這算犯罪嗎？
瑪吉·墨菲由iHeartPodcasts、彭博社與Kaleidoscope聯合呈現，這裏是萊維敦。我是瑪吉·墨菲。
奧利維亞·卡維爾 我是奧利維亞·卡維爾。
奧利維亞·卡維爾 當晚帕特里克被從門廊拖下，戴上手銬押進警車，帶進拿騷縣警局一間3米見方的審訊室。他交出了電子設備並簽署了認罪書。警探們質問帕特里克的核心問題是：為什麼？他為何這樣做？
這也是我和瑪吉想追問帕特里克的問題。帕特里克及其前律師拒絕為本播客接受採訪。但我們掌握了他被捕當晚的供詞。帕特里克首先承認自己是該網站多個賬號的唯一使用者，自2019年高中畢業季起便活躍於此。
帕特里克·凱里（配音演員朗讀） 我開始使用這些賬號是因為生活無聊至極，找不到任何人生樂趣。
奧利維亞·卡維爾 此為配音演員逐字朗讀的帕特里克供詞。
帕特里克·凱里（配音演員） 我沉迷網絡色情內容，逐漸找到諸如CumOnPrintedPics點com這類網站。
奧利維亞·卡維爾帕特里克稱他使用該網站超過兩年——上傳高中女同學的照片並附上她們的社交媒體賬號等聯繫方式。他表示自己曾鼓動其他用户，用他的話説——
帕特里克·凱里（配音）"——讓這些女性陷入抑鬱，嚇得她們不敢使用任何社交媒體。“往那個網站發佈這些內容讓我感到刺激，因為我知道自己做的是錯的，知道我正在給這些女孩製造恐懼和難堪。這種明知故犯的背德感讓我體會到活着的實感，也清楚自己終有一天會落網。
奧利維亞·卡維爾他形容這幾乎成了一種癮——循環往復的刺激尋求、愧疚、再尋求刺激…
**帕特里克·凱里（配音）**在這個網站發帖期間，我確實不時對給女孩們造成的恐懼和難堪感到懊悔。但等懊悔感消退，我又會變得麻木無聊，再次尋求明知故犯的發帖快感。我為自己給所有受害者帶來的恐懼、痛苦和羞辱道歉。
梅麗莎·斯坎內爾我翻閲着這份供詞，當時就震驚了。太惡劣了。讀起來令人極度不適。
奧利維亞·卡維爾帕特里克被捕後的週一早晨，地區助理檢察官梅麗莎·斯坎內爾正在辦公。梅麗莎有起訴性犯罪案件的經驗，同時擔任網絡犯罪部門主管。這份特殊報告的細節令她觸目驚心。
梅麗莎·斯坎內爾 我的工作常要面對駭人聽聞的事，無論是過往案件還是現在處理的案子，都涉及相當惡劣的內容。所以有時我的判斷會失衡，這時找他人確認就特別有用，比如問"這事真有那麼糟嗎？會更嚴重嗎？"——就像在確認自己的反應是否正常。
奧利維亞·卡維爾 她看完帕特里克的供述後，衝過走廊找到同事凱爾西·洛雷。
凱爾西·洛雷 太令人震驚了。他的言行簡直…那種衝擊感揮之不去。在我看來那個網站早已超出色情範疇，根本是在打壓女性——説白了就是貶低她們，網站的核心就是人格踐踏。
奧利維亞·卡維爾 凱爾西是另一位助理檢察官，通常負責敲詐勒索案，比如有組織犯罪、毒品走私、勒索等。但本案不同，更帶個人色彩——凱爾西畢業於麥克阿瑟高中，曾與受害女生走過同樣的走廊。她和梅麗莎研究指控條款時發現，這僅構成一系列騷擾和淫穢輕罪，意味着帕特里克最多判一年。她們認為其行為性質惡劣得多。
梅麗莎·斯坎內爾 有些帖子他直接附上女生全部個人信息，煽動他人發佈死亡威脅或強姦恐嚇，而真有人響應這些暴力幻想。什麼時候會有人站出來説：夠了，我要阻止這一切？
奧利維亞·卡維爾 他們認為他至少應被指控一項重罪。但要做到這一點，他們必須提出新的指控。帕特里克當時已從警方拘留中獲釋，回到家中等待下一步行動。紐約法律只給了檢察官90天時間來確定這些新指控的內容。
梅麗莎·斯坎內爾 凱爾西和我時間緊迫——
奧利維亞·卡維爾 ——並且要確保指控成立
梅麗莎·斯坎內爾 因為如果指控被駁回，我們就無計可施了。我們無法再以其他罪名起訴他。
奧利維亞·卡維爾 檢察官不確定帕特里克的行為——製作併發布這些篡改過的圖片——是否構成犯罪，更不用説重罪了。
梅麗莎·斯坎內爾 這太惡劣了。這應該是非法的。但這算什麼？這是什麼罪行？
奧利維亞·卡維爾 他發佈了經過處理的少女裸照。這怎麼會不違法？
梅麗莎·斯坎內爾 因為它們不是真實的。
奧利維亞·卡維爾 帕特里克可以辯稱這些帖子是藝術表達，受到第一修正案的保護。這在美國法庭上尚未有定論。因此，檢察官需要繼續尋找。他們需要找到不屬於言論自由範疇的證據。
他們獲得了帕特里克所有社交媒體賬户的搜查令——從Instagram到即時通訊應用Kik的一切——並開始檢查他的手機和平板電腦；警方在地下室電視櫃的頂層抽屜裏找到了這些設備。
梅麗莎·斯坎內爾 衝向賽場——
凱爾西·洛雷 我們做的第一件事就是開始瀏覽網站，首先試圖保存它。我們當時不知道他已經被捕，他會回去嗎？他會試圖刪除內容嗎？
梅麗莎·斯坎內爾 那時我們不知道接下來要做什麼。
奧利維亞·卡維爾 他們必須先確認帕特里克針對的所有人，因為事實證明，他騷擾的女性比報警的要多得多。
梅麗莎·斯坎內爾 一開始我們給她們都起了暱稱，因為根據我們瀏覽方式，她們的名字可能要到後來才能對應上。你知道他確實附上了她們的名字。但我們可能不是按時間順序查看，而是按用户名或其他信息，所以我們給這些年輕女性起了很多暱稱，比如，哦不，我們之前見過她，那個——我們有一個叫“眼線筆”的，因為她在每張照片裏的眼線都畫得恰到好處。所以我們説，哦，“眼線筆”又出現了，好吧，最後我們才弄清楚“眼線筆”的真名，然後才恍然大悟。
當我們一起瀏覽網站時，部分原因是為了互補彼此的優缺點，對吧？你知道，我有點臉盲。所以她更擅長辨認，比如“不，我們之前肯定見過她”之類的事情。另外，雖然聽起來有點誇張，但也是為了精神支持。瀏覽那個網站非常困難，你需要和別人一起完成。
奧利維亞·卡維爾 兩位女性分工合作。凱爾西主要負責研究是否能以重罪起訴他。她拿起厚厚的州刑法典，開始一頁頁翻閲。
凱爾西·洛雷 我真的就是把書從架子上拿下來，從頭開始逐條查看，即使某些條款看起來明顯不適用。比如這顯然不是搶劫案，但我還是查閲了每一條法規，並整理成文件記錄：有沒有任何條款能勉強套用，讓我們可以據此立案？
奧利維亞·卡維爾 梅麗莎則創建了詳細的檔案——一份恐怖事件目錄。
梅麗莎·斯坎內爾 用多張電子表格追蹤每篇帖子：誰出現在哪篇帖子裏、説了什麼內容、是否有符合仇恨犯罪的言論、是否涉及種族歧視…我們常説這就像把方榫頭塞進圓卯眼。明知這種行為惡劣，卻尚無法律條款能直接適用。但我們該從哪個角度突破？怎樣才能讓案件成立？
奧利維亞·卡維爾 接下來幾周，凱爾西和梅麗莎成了研究帕特里克·凱里作案手法的專家。她們發現他會鎖定受害者，從社交媒體上竊取照片。當部分女性發現異常將賬户設為私密後，他會持續檢查她們是否又轉為公開狀態。
梅麗莎·斯坎內爾 他不停地查看是否——好吧，現在安靜得夠久了，她取消了隱私設置，我又能重新登錄了。
奧利維亞·卡維爾 如果受害者更改用户名，他會查出新賬號併發布到網站上。然後通知其他用户，慫恿他們去騷擾她。以下是配音演員朗讀的帕特里克某條帖子內容：
帕特里克·凱里（配音演員） 召喚所有變態來徹底毀掉[嗶聲]的人生。
奧利維亞·卡維爾 檢方發現帕特里克會用不同賬號回覆自己的帖子。
梅麗莎·斯坎內爾 你知道，這是為了增加互動量，讓別人覺得——哇這人超受歡迎，這麼多評論，我也要圍觀。
奧利維亞·卡維爾 提升互動似乎沒有經濟動機——至少檢方沒發現——但帕特里克確實從中獲利。他甚至註冊假賬號冒充受害者，乞求用户放過他們。梅麗莎説他幾乎全天候泡在這個網站。
梅麗莎·斯坎內爾 從早到晚，凌晨六點，深夜兩點，下午兩點，無時無刻不在。
奧利維亞·卡維爾 他會檢查成果，用谷歌搜索受害者名字查看帖子互動量——
梅麗莎·斯坎內爾——想看看這些內容是否在其他地方引起了關注。隨後他發現，這些年輕女性的照片被陸續上傳到其他色情網站。於是他開始近乎痴迷地追蹤自己的作品傳播軌跡。
奧利維亞·卡維爾實際上，梅麗莎和凱爾西發現，帕特里克即便在被捕後，仍多次重返該網站。
梅麗莎·斯坎內爾最終統計顯示他發佈了約1300條內容，使用了14個不同的用户名。
瑪吉·墨菲檢方還進一步瞭解到帕特里克編輯照片的手法。這讓我們得以窺見一項即將因人工智能實現巨大突破的技術。
帕特里克·凱里發佈內容的網站創建於2010年左右。在大部分運營時間裏，該站用户上傳的都是真實女性及未成年女孩的照片。隨着修圖應用逐漸普及，網站上開始湧現大量請求他人制作所謂"假照片"“的帖子。
帕特里克使用Body Editor等應用程序，可能需要花費數小時才能生成逼真的假照片。但圖片一經上傳，所用技術就已過時。和網站其他用户一樣，他會發帖請求製作更逼真的假照片。2020年10月11日，他在一條關於某受害者的帖子中詢問——該帖當時有超4000人瀏覽——
帕特里克·凱里（配音）““有人會做淤傷/毆打效果的假圖嗎？很想看到[某編輯照]加上一兩個黑眼圈。若能實現更粗暴對待的幻想場景就更好了。””
瑪吉·墨菲 其他人正在開發更強大的工具。深度偽造技術革命就此拉開序幕。
2017年前後，Reddit論壇開始湧現深度偽造內容。用户將名人面孔PS到色情演員身體上。隨後有人上傳了演員蓋爾·加朵與繼兄發生關係的視頻——這完全是偽造的，但因效果逼真引發了廣泛關注。
檔案音頻：其中一段視頻裏，一名衣着暴露的女子躺在牀上把玩情趣用品，卻長着蓋爾·加朵的臉。
瑪吉·墨菲 Vice新聞記者薩曼莎·科爾追蹤到製作者，對方自稱只是對機器學習感興趣的編程員。他透露這段視頻是通過深度學習算法，將加朵的面部移植到色情演員身體上完成的。本質上，他讓算法通過研究大量色情片和加朵的面部圖像，學會了如何逼真地編輯視頻。這位編程員的網名"deepfakes"正是深度學習（deep learning）與偽造（fake）的組合詞。
多年來開發者們一直在研發各種製作逼真虛假圖像的軟件。早期實踐者們的作品雖需耗費數小時計算資源，但所需源代碼早已開源。
瑪吉·墨菲 蓋爾·加朵視頻激發了AI編程大軍制作更多名人色情內容的熱潮，受害者包括斯嘉麗·約翰遜、泰勒·斯威夫特等明星。
檔案新聞：約翰遜告訴《華盛頓郵報》，這可能發生在任何人身上。關鍵取決於是否有人想針對你。
瑪吉·墨菲 深度偽造技術也因其潛在政治影響受到關注。一段經過編輯、使眾議院議長南希·佩洛西聽起來像是口齒不清的視頻在Facebook上瘋傳。
檔案音頻：我們希望給這位總統…機會…為國家…做出歷史性貢獻…
瑪吉·墨菲 隨着更多深度偽造內容在網上傳播，越來越多人湧入Reddit的深度偽造版塊和其他論壇，交換製作逼真圖片和視頻的技巧。到2021年，這項技術已能反覆評估調整圖像，直到獲得令人信服的完美匹配。
檔案音頻，深度湯姆：我播點體育節目你們不介意吧？
瑪吉·墨菲 就在那時，另一段以偽造的湯姆·克魯斯為主角的明星視頻席捲全網。
深度湯姆：如果你們喜歡現在看到的…等着瞧接下來的好戲吧（毛骨悚然的笑聲）。
瑪吉·墨菲 用於製作詭異版湯姆·克魯斯的人工智能模型，同樣被用來運營當時最大的非自願色情網站"Mr. Deepfakes”。對許多人來説，名人和政客成為深度偽造受害者像是"他們"的問題，是成名的代價。未被頭條報道的是，普通女性早已在應對這種傷害。
奧利維亞·卡維爾 變化如此之快，難怪長島的檢察官們很難在法典中找到適用的法律。梅麗莎和凱爾西只有三個月的時間對帕特里克提起訴訟，否則將面臨雙重追訴的風險。但她們僅用一個月就獲得了所需證據。
梅麗莎·斯坎內爾 我記得她當時興沖沖地跑下來説：“我們找到了！“一開始我還很困惑：“找到什麼了？她發現了什麼？我們找到了什麼？“後來她告訴我：“我找到她的照片了。”
奧利維亞·卡維爾 在經歷了漫長的假圖像調查後，檢察官終於找到了能以重罪"起訴帕特里克的證據——一張真實的照片。這是其中一名女孩的裸照，由她的前男友拍攝後分享給包括帕特里克在內的同學。帕特里克隨後通過加密通訊軟件Kik將照片轉發給他人。這張照片不僅構成復仇式色情內容，由於畫面中的女孩當時年僅14歲，更屬於兒童性虐待材料。
2021年11月，大陪審團正式起訴帕特里克。他面臨多項重罪指控，包括傳播兒童性表演內容、嚴重騷擾和二級跟蹤罪。
這些指控無一涉及他製作的1100張未經同意的深度偽造色情圖片。帕特里克於2022年12月認罪，但這並未徹底解決萊維敦鎮年輕女性們的問題。那個網站依然存在，她們的照片和聯繫方式仍被公開，繼續暴露在帕特里克·凱里召集的數百名網絡掠奪者面前。
奧利維亞·卡維爾 你是否考慮過直接追查網站本身？
梅麗莎·斯坎內爾 我認為我們缺乏刑事依據這樣做。該網站既不在美國託管，也肯定不在拿騷縣境內。因此我們無權採取行動。
瑪吉·墨菲拿騷縣檢察官無權將其關閉。但其他人或許可以。
問：你從事網絡安全工作嗎？
答：出於安全考慮，我無法回答這個問題。
問：為何你必須保持匿名？
答：我樹敵；有些明目張膽，有些則喜歡隱匿行蹤發動突襲。
瑪吉·墨菲 在網絡犯罪案件中，執法部門受制於資源、國界和管轄權。而黑客們卻只被自身技術所限。下期《萊維敦》將為您揭曉。
奧利維亞·卡維爾 本系列由瑪吉·墨菲與我——奧利維亞·卡維爾聯合報道並主持。
由萬花筒製作團隊出品——朱莉婭·納特領銜，內達·託洛伊-塞姆納尼剪輯，達拉·盧克-波茨監製。執行製片凱特·奧斯本。原創音樂與混音由史蒂夫·博恩完成。
帕特里克·凱里的旁白由傑克遜·阿克演繹。
彭博社編輯為凱特琳·肯尼與傑夫·格羅科特。薩曼莎·斯圖爾特參與補充報道。塞奇·鮑曼擔任彭博社執行製片兼播客總監。克里斯汀·鮑爾斯為高級執行編輯。
來自iHeart，我們的執行製作人是泰勒·克朗和尼基·埃托爾。萊維敦是彭博社、萬花筒和iHeartPodcasts的聯合制作。如果你喜歡這個節目，請關注我們並告訴你的朋友們。