廉價、快速的深度偽造應用發展速度超越法律：播客 - 彭博社

插圖：易卜拉欣·拉因塔卡思 訂閲《萊維敦》播客，請訪問iHeart播客平台、蘋果播客、Spotify或您獲取播客的任何平台。也可在終端上收聽。歡迎收聽《萊維敦》第六集。瞭解更多播客系列詳情，請點擊此處*，並閲讀下方本集文字稿。*

長島的萊維敦郊區，是某種技術革命的代名詞。

二戰剛結束，建築商威廉·J·萊維特將生產線原理應用於住宅建設——在空地上堆放建築材料，組織工人建造成千上萬棟一模一樣的房屋，每棟最快只需一天。萊維敦成為二戰後美國郊區的原型。

這一願景隱藏着一個黑暗的事實，如今已成為萊維敦歷史公認的一部分：這些房屋只出售給白人家庭。種族契約將黑人買家拒之門外。這是技術進步的老故事：一些人受益，另一些人被排斥。

七十五年後，另一場技術革命降臨萊維敦。帕特里克·凱里承認他偽造了數十名女性的虛假圖像。他的方法相對費力——從一張照片中剪下臉部，從另一張中截取身體，用早期AI軟件平滑過渡。短短幾年後，技術不斷進步。如今，製作深度偽造視頻既便宜又快速，簡單到連青少年都能操作。

在《萊維敦》系列大結局中，奧利維亞和瑪吉深入調查深度偽造技術的現狀，解析這項技術如何在短短幾年內突飛猛進，其運作原理及幕後推手。本集重返新技術引發最大動盪的現場：高中校園。

第六集文字實錄：超光速

本文字幕由軟件與人工協作生成，內容與音頻可能存在細微差異。印刷引用前請核對音頻。本系列涉及未成年人性化影像及暴力內容，收聽時請注意。

奧利維亞·卡維爾 萊維敦這座城鎮本身就是一項創新。萊維特父子公司威廉·J·萊維特受生產流水線啓發，將批量住宅建造拆解為26道工序，施工隊僅需一天就能建成一棟房屋——這種快速、省錢的標準化住宅開發模式，在1947年短短數月內就建成數千棟住宅。但通過種族契約限制，只有白人家庭能入住——這項創新對某些羣體關上了大門。但這仍是一種進步。

然而如今，這個曾代表創新巔峯的地方，和所有地區一樣，正艱難應對技術變革的驚人力道。

德文·羅斯警探中尉 我剛入職時還在用錄像帶辦案——

奧利維亞·卡維爾 德文·羅斯警探中尉自90年代末就在拿騷縣警察局工作。

羅斯警探中尉 ——那時用的是卡帶式攝像機和8毫米卡式錄音帶。如今這個世界——當年和我共事的人根本認不出來了。

奧利維亞·卡維爾 如今羅斯是網絡犯罪部門負責人，調查網絡勒索、在線欺詐以及深度偽造等犯罪。

羅斯警探中尉 他們説這是執法/立法與技術之間的軍備競賽。而我們正在輸，徹底輸了。我們還在思考如何解決六週前發生的問題，他們早已領先我們十個月。真是可悲。

奧利維亞·卡維爾 帕特里克·凱里案就是個典型：2019年他主要用高級版Photoshop製作圖像。本質上是在創作數字拼貼畫——這裏貼張臉，那裏拼個身體，用基礎AI技術融合素材。轉眼間就生成一張全新圖片。但現在，想效仿帕特里克·凱里的人只需一個應用或網站，滑動幾下，幾秒鐘後：砰——以假亂真的新作品就誕生了。

瑪吉·墨菲*(錄音)*我現在打開筆記本電腦，桌面上有幾個裸體生成應用的窗口…

瑪吉·墨菲 於是我和奧利維亞決定親自嘗試這項技術——正是它從多方面引出了本次報道。

瑪吉·墨菲 *(錄音)*我們要用的是Drawnudes這個應用。奧利維亞·卡維爾 很想見識下。

瑪吉·墨菲 我們當時正在加州一起做報道。決定試用一些最新的人工智能工具來修改圖片，這些工具能讓穿着衣服的人看起來像沒穿衣服。它們被稱為脱衣或裸體化網站和應用。在我們的實驗中，我們使用了最受歡迎的網站之一Drawnudes，該網站在2024年上半年有超過1200萬次訪問。這些網站讓你可以輕鬆上手，使用時無需輸入郵箱或姓名，而且前幾次製作假照片是免費的。

瑪吉·墨菲 它顯示“有想脱衣的對象嗎？上傳照片吧。”我要從相冊上傳一張照片。這是我的一張照片，在內華達州的沙漠裏——

奧利維亞·卡維爾 哦，看起來真酷。

瑪吉·墨菲 ——我當時正在慢跑。

奧利維亞·卡維爾 好的，這張照片裏能看到瑪吉；她看起來很開心，雙臂張開站着。看起來你穿着跑鞋，可能是一條休閒短褲、運動文胸和漁夫帽，還有太陽鏡。你就在沙漠中央。

瑪吉·墨菲 好了，我選擇自動模式，讓AI自己畫衣服。點擊確定。你只需要在衣服的位置上塗抹。基本上，在我的手機上——我點按運動文胸和短褲的位置。然後它們被標成橙色。顯示正在處理照片。

奧利維亞·卡維爾 快好了。“請別關閉頁面。"…天啊。

瑪吉·墨菲 哦！

奧利維亞·卡維爾 天哪，看起來太真實了。

瑪吉·墨菲 是啊，我看起來完全赤裸。

瑪吉·墨菲 我有點不敢相信。短短幾秒鐘內，這個網站就完成了帕特里克·凱里等人可能需要數小時才能做到的事。

奧利維亞·卡維爾 而且比例和你的身體完全吻合。天啊。

瑪吉·墨菲 歡迎來到未來——一個你真正無法相信眼睛的時代。來自iHeartPodcasts、彭博社和萬花筒，這裏是萊維敦。我是瑪吉·墨菲。

奧利維亞·卡維爾 我是奧利維亞·卡維爾。

瑪吉·墨菲 沒有什麼能讓你對此做好準備。前一秒還是微笑的度假照，下一秒你就赤身裸體。那不是你真實的身體，也不再是你的照片。看着這一切發生超乎現實…和同事分享時還有點怪異。之後我一時難以直視奧利維亞的眼睛。我無法想象如果你的同學看到如此私密的畫面會怎樣。不過，我親手生成了那張特定圖像。雖然不確定技術脱掉衣服後自己會是什麼模樣，但大致能預料到結果。

這並非常態。大多數製作深度偽造色情內容的人從未徵得當事人同意。他們只是肆意妄為。這類應用存在的根本原因正在於此。當一個人發現自己的形象被如此篡改以供他人取樂時，會感到一種侵犯。對我們採訪的許多女性而言，這就是一種侵犯——一種新型暴力。

作為一個社會，我們甚至還未開始應對這一問題。目前根據聯邦法律，製作和傳播基於成人的深度偽造色情內容並不構成犯罪。針對兒童的偽造裸體圖像，法律適用範圍狹窄，僅涉及虐待案件。

2024年3月，聯邦調查局確實發佈公告，聲明兒童性虐待材料——即使是人工智能生成的——也屬違法。但需注意，其所依據的法律仍相當侷限。目前至少有25個州試圖通過地方法規解決此問題。但必須指出，聯邦法律保護託管網站（無論是論壇、社交媒體平台還是網絡服務提供商）無需對用户發佈的任何內容——即使違法——承擔法律責任。

奧利維亞·卡維爾與此同時，應用開發者正競相滿足日益增長的需求，力求更快生成更逼真的裸體圖像。而許多使用該技術的並非成年人，而是將其作為武器針對同齡人的青少年。

新聞檔案片段：深度偽造色情內容困擾新澤西州西田市高中女生…兩名學生因涉嫌使用AI製作不雅圖像面臨嚴重處分…比佛利山莊初中生因用AI生成並傳播同學偽造裸照陷入麻煩。

奧利維亞·卡維爾家長們束手無策，校方同樣如此。太多地方缺乏防護措施，無法確保他們學校——他們鎮上——的悲劇不會重演。自2023年開始報道萊維敦事件以來，我追蹤到此類案件在全國各地如雨後春筍般湧現。但其中一起案件尤為突出…

勞雷爾·貝爾警探我最初並未意識到這在全國範圍內如此嚴重。

奧利維亞·卡維爾勞雷爾·貝爾警探是賓夕法尼亞州蘭開斯特縣一個小型警察局的兩名調查員之一。

貝爾警探最讓我震驚的是，有大量案件從未被起訴，僅僅因為他們不知道如何——不知道如何利用法律武器，或者當地根本沒有適用於此類罪行的法律條文。

奧利維亞·卡維爾蘭開斯特以農田和阿米什文化聞名，在這裏看到馬車嘚嘚駛過街道是尋常景象。

貝爾警探由於我們只有兩個人，基本上要處理所有類型的案件，從入室盜竊、非法入侵等財產犯罪，到謀殺案（如果有的話）。但色情製品案件、兒童色情案件這類，就由我們兩人負責，每年都要處理好幾起。

奧利維亞·卡維爾 2024年初，勞雷爾接到一名巡警的電話。附近私立學校的學生家長報告稱，有學生在羣聊中誤發了一張照片。這張照片是從一名女同學的社交媒體賬户獲取的，但她的衣服被技術手段移除——這是一張深度偽造的假照片。

警官不確定能否逮捕該學生。但勞雷爾前一年處理過類似案件。她知道在賓夕法尼亞州，任何以性化方式呈現兒童的"描繪”——無論是否由生成——都可能構成虐待兒童罪。

貝爾探員 這確實加速了調查進程，因為我們明確了偵查方向。

瑪吉·墨菲 本案中的圖片並未像萊維敦案那樣在非法網站交易，而是通過Discord通訊平台在兩個同學間傳播…直到其中一人誤將深度偽造照片發到了更大的羣組。

但由於其餘照片都是私下傳播，沒人確切知道哪些 人被偽造。學生和家庭陷入恐慌，偵探需要給出答案。與萊維敦的警方類似，勞雷爾申請了網絡記錄和聊天記錄的搜查令。識別每位受害者是個艱鉅過程：她製作電子表格，對照年鑑收集核驗照片，詢問證人並聯系家庭。最終確認了60名受害者，其中59人是未成年人。

貝爾探員 在調查過程中，我驚訝地發現這個案件的規模竟然如此之大。

瑪吉·墨菲 據我們所知，這是美國已知最大規模的深度偽造色情案件之一。就像萊維敦案一樣，這些年輕女性認識涉案嫌疑人。

貝爾探員 ——根據我在全國範圍內調查和了解到的情況，大多數案件中，這些孩子並非被陌生人侵害。可悲的是，施害者往往是他們認識的人。只要想到日復一日，這個人曾與他們共處——一起吃午餐、上課、運動，甚至可能和其中某個學生同班……

瑪吉·墨菲 蘭開斯特的學校官員在勞蕾爾捲入前幾個月就知曉了這些深度偽造圖片。

奧利維亞·卡維爾 2023年11月，匿名舉報人告知校方有學生製作了同學的人工智能生成裸照。校方展開內部調查但未能證實舉報內容，因此未報警。數月後，在收到另一起匿名舉報後，他們重啓調查。

此後，其中一名嫌疑人被確認並退學。學校向負責兒童虐待報告的州立機構上報了事件。但警方直到2024年春季才從一位母親處得知此事。

檔案音頻：蘭卡斯特鄉村日校學生今晨舉行罷課，抗議校方對這所私立學校持續發酵的AI裸照醜聞的處理方式 ——

奧利維亞·卡維爾 2024年11月，數百名師生通過罷課抗議校方應對措施，當日課程全部取消。

檔案音頻：一名女生表示，此舉向校方傳遞了強烈信號——學生對成人處理AI事件的方式感到憤怒，女生在校內缺乏安全感。

奧利維亞·卡維爾 家長因認為校方存在瀆職行為而集體提起訴訟。截至一月底，案件仍在審理中。校方官員表示無法討論具體細節，稱正在全力保障學生關懷，並着手修訂校園政策，同時已開展關於兒童保護與強制報告制度的教職工專項培訓。

目前蘭卡斯特案嫌疑人已被指控多項重罪，包括兒童性虐待及傳播兒童性虐待材料，即將進行認罪答辯。警方未公佈其年齡，但當地媒體報道稱至少一人案發時為九年級學生，他們將接受未成年人審判。

根據勞雷爾案先例，這可能意味着監禁或送入少年管教所——

貝爾探員——這是一家針對性行為問題的矯正機構。與其説是懲罰，不如説是治療，可以説我們提供了這種可能性。另一種可能就是常規的少管所。不過值得欣慰的是，我們有過將涉案少年送往治療機構的先例，通過行為矯正來避免問題延續到成年階段。

瑪吉·墨菲 因為這涉及另一個關鍵問題。在全國湧現的案例中，製作深度偽造內容、傳播非自願色情影像和實施騷擾的人，往往與受害者同齡。隨着深度偽造技術變得無處不在、操作直觀且門檻降低，使用者年齡越來越小——他們正是在性意識和性觀念形成的關鍵期接觸這些網站的。

當這些青少年探索自身性意識時，他們不再是從父親牀底偷藏《花花公子》雜誌，或是偷看深夜成人頻道，而是能夠製作並傳播現實中認識的人的圖像——卻未必理解這種行為在心理和法律層面的後果。

貝爾探員這些孩子可以在卧室裏秘密操作。無人知曉他們的行為，這就在偏離的邊界上打開了缺口：既然能看那些內容，或許就該嘗試同齡女孩的影像——我們常見的情況正是如此。他們觀看同齡人的色情圖片，而這在他們看來並無不妥——

奧利維亞·卡維爾 嗯。

貝爾警探 ——因為她們年齡相仿。但這仍然是兒童色情內容。

奧利維亞·卡維爾 當然。我猜如果他們在網上找不到同齡女孩的照片，現在有些應用程序可以讓他們自己生成這類圖片。

貝爾警探 是的。

奧利維亞·卡維爾 目前根據聯邦法律，製作和分享深度偽造色情內容並不構成犯罪。最高法院也尚未對哪些內容可以合法進行深度偽造、哪些不能做出裁決。保護言論自由是憲法賦予的權利——但禁止未經同意的深度偽造色情內容，卻是國會幾乎全體公開支持少數議題之一。

事實上，2024年參議院曾全票通過一項跨黨派提案，擬對深度偽造色情內容進行監管，將製作傳播非自願深度偽造色情製品定為聯邦罪行。該提案還要求社交媒體公司在接到舉報後48小時內刪除相關圖像。Meta、谷歌和TikTok等公司均公開表示支持。

這項法案最終在2024年底止步於眾議院。但支持者表示，在新會期重新提出並通過該法案是他們的優先事項。儘管各州正嘗試制定地方法律，但許多法規僅將18歲以下人羣視為深度偽造色情內容的受害者。

其他州如紐約州，則選擇擴展現有的復仇式色情法規以涵蓋深度偽造內容。但這可能意味着受害者需要證明加害者的主觀故意——即製作發佈圖像者確實存在傷害意圖。

在賓夕法尼亞州，像勞雷爾這樣的執法官員正在利用兒童性虐待法規對非自願色情內容案件中的未成年人提起訴訟。去年年底，賓夕法尼亞州通過了一項法案，將“非法傳播私密圖像”的定義擴展至包括深度偽造色情內容。

因此，現有的法律保護措施是零散的、不均衡的且未經檢驗的。但也有其他官員正在追查從這項技術中獲利的人。

奧利維亞·卡維爾 如果你能先自我介紹一下，那就太好了。

大衞·邱 當然，我是大衞·邱。我是舊金山市的市檢察官。

瑪吉·墨菲 大衞·邱最初是通過他辦公室的女性同事瞭解到“脱衣”應用程序的，這些女性既是律師，也是十幾歲女孩的母親。他説他意識到這些網站和應用程序可能有多麼危險，於是決定採取行動。

大衞·邱 我們對世界上最大的從事人工智能輔助剝削的網站提起了首例訴訟。我們起訴了16個訪問量最大的創建和傳播人工智能生成的非自願色情內容的網站。

瑪吉·墨菲 邱的辦公室於2024年8月提起了訴訟，認為這些“脱衣”網站不僅違反了聯邦和州關於報復性色情和兒童色情的刑事法規，還違反了加州的不正當競爭法，該法規定了公司如何在網上進行廣告宣傳。

大衞·邱 這些網站在2024年的前六個月中累計訪問量超過2億次。這些運營商從這些內容中獲利。他們要求用户訂閲或付費以生成圖像。他們非常清楚自己在做什麼。他們知道這是非自願的。這些圖像極其逼真。有一個網站特別宣傳了這種非自願的性質——我引用原話：“想象一下，浪費時間和她約會，而你只需使用‘xxx’網站就能得到她的裸照。”因此，我們的訴訟旨在關閉這些網站。

奧利維亞·卡維爾 你有收到被起訴公司的任何回應嗎？

大衞·邱 看看他們是否會從互聯網最陰暗的角落跳出來辯護，這會很有趣。

瑪吉·墨菲 邱表示其辦公室尚未收到多數被訴公司的回應。而且他們可能還要等上一陣子。因為這16個網站和應用的開發者遍佈全球。其中Drawnudes網站——正是奧利維亞和我之前用來製作我深度偽造視頻的那個。

你能輕鬆找到這個網站。但要查明運營者？那就困難多了。我們嘗試追蹤Drawnudes應用的資金流向。支付8美元購買高級服務後，我們得以窺見其收款方式。付款過程並非簡單輸入信用卡信息…

瑪吉·墨菲 當我嘗試付款時，系統會將你導向應用外——與這些交易員即時聊天，你需要提供專屬賬户鏈接——

奧利維亞·卡維爾 明白了。

瑪吉·墨菲 ——他們會回覆：好的，這是PayPal鏈接，去該賬户支付，把交易ID發我。然後我會將價值8美元的代幣充入你的應用。

奧利維亞·卡維爾 為什麼獲取代幣要經過這麼多步驟？

瑪吉·墨菲 我認為有幾個原因。可能是他們試圖掩蓋自己的蹤跡。如果你付錢讓人們使用他們的PayPal賬户，就沒有直接聯繫回你，所以沒有書面記錄。另一個原因是——你知道，這不僅僅是一個簡單的信用卡使用問題——因為很多公司，支付處理公司，現在都在禁止這類應用。

事實上，對消費者來説並不複雜。但這些額外的步驟使得更難確定開發者的身份和財務狀況。而這正是我們想要找的人。

所以我們去找那個名字似乎與Drawnudes有關的人，問他很多事情，包括訴訟。

(敲門聲；門開了)

瑪吉·墨菲 我在找一個叫西里爾的人。我所知道的是，他看起來30出頭，來自烏克蘭。

他的頭髮長得可以塞到兩隻耳朵後面。他看起來更像一個DJ，而不是科技大亨。他在社交媒體上很活躍，似乎有一個模特女友。他在2021年戰爭前搬到了美國，住在美國的某個地方。

西里爾有幾家公司。他公開談論過其中一家，這家公司充當互聯網廣告的經紀人。收費後，西里爾的公司幫助企業在線廣告。這是他在12月泰國的一次會議上談論營銷補充劑。這個承諾從減肥到增肌和更好的勃起功能。

西里爾 我經營這家代理公司，我們幫助一些營養保健品行業的客户擴大規模，或者打造合規的營養保健品品牌或產品方案…

瑪吉·墨菲 但真正引起我們注意的是西里爾名下的另一家公司——索爾電商，這家公司的信息出現在Drawnudes網站頁腳以及David Chiu的訴訟文件中。索爾電商在洛杉磯有註冊地址。我花了數週時間試圖聯繫西里爾及其相關人士，最終我們決定前往索爾電商登記的辦公地點一探究竟。

瑪吉·墨菲 您好。

男子 你好。

瑪吉·墨菲 我是瑪吉·墨菲…請問您是克羅（西里爾）嗎？

男子 不是。

瑪吉·墨菲 好的。我是彭博社的記者…

瑪吉·墨菲 開門者表示從未聽説過西里爾或這家公司。但在我開始尋訪一個多月後，西里爾終於接聽了電話。我們進行了約半小時的交談。西里爾堅稱索爾電商與Drawnudes是獨立運營的兩家公司。他解釋説，和其他客户一樣，Drawnudes應用的開發者只是找他協助產品推廣。

他還透露曾見過兩位應用所有者：一位是定居塞浦路斯的俄羅斯人，在色情產業頗有影響力；另一位是居住在美國的白俄羅斯人。西里爾表示，在看到多篇關於Drawnudes應用的負面報道後，他終止了與該開發團隊的合作。他向我強調，索爾電商從未從Drawnudes或其開發者處收取任何報酬。我們有過數次通話，但最後一次約定繼續溝通後，他再未回應我的聯繫。

我發了郵件、打了電話、發送了Telegram消息，還在他的Calendly上預約了時間。在此期間，我看着西里爾參加了泰國的科技會議，遊歷了意大利，並在法國享受豪華滑雪假期度過了聖誕節。

當西里爾忙着躲避我並享受他的美好生活時，2024年悄然結束。隨之而來的是，Drawnudes應用和網站下線了。

與此同時，我查看了加州訴訟中提到的其他裸體化應用，其中一個名為Clothoff。它甚至比Drawnudes還要大，僅去年就有近2700萬訪客。當我瀏覽該網站和應用時，我驚訝地發現Clothoff、Drawnudes和另一個名為Undress的應用有多麼相似。

它們都有相同的界面——相同的圖形、相同的文本、相同的設計、相同的客服支持基礎設施。事實上，許多頂級的裸體化應用似乎是相互超鏈接的殼網站——通過轉移網絡流量，讓人們為一小部分服務付費，而這些服務的工作方式完全相同。

當我在使用Drawnudes時，對客服有疑問時，彈出的卻是Clothoff的名稱和標誌。相同的客服…同一家公司？

我再次聯繫了客服——詢問Clothoff或Drawnudes最近被收購或出售。對方保證所有者沒有變更，但Clothoff和Drawnudes網站已遷移到不同的域名，據稱是為了“提高在線識別度和加快性能”。這很可能是真的。但更換域名的另一個效果是，使得追蹤所有者並追究其法律責任變得非常困難。所有跡象都指向一個可能的解釋：Clothoff、Drawnudes和Undress應用——這些在加州訴訟中被點名的網站——可能是同一批人的作品。

我們嘗試通過服務郵箱聯繫這些網站，但未獲回應。重申一點：可能僅有少數人掌控着國內使用最廣泛的三款脱衣軟件。他們產品的危害，往輕了説是恐嚇年輕女性，往重了説正在改變年輕男女。它正改變着他們與世界及彼此互動的方式。儘管蘋果和谷歌已從應用商店下架多款脱衣產品、應用和網站，但這些網站仍能輕易通過谷歌或Safari搜索到，開發者持續發佈新應用，而任何人——任何人——都能使用它們。

加州議員邱信福表示，若此次訴訟未能阻止這類應用的泛濫，還有其他方法可削弱其影響力。

邱信福 這些網站運作背後涉及眾多技術廠商和技術基礎設施。

瑪吉·墨菲他指的是互聯網服務提供商、搜索引擎、登錄驗證系統或支付處理商。聽起來枯燥，但這就是技術運作的方式：軟件與在線企業協同工作，使最基礎的網站得以運行。在被揭露與脱衣應用存在合作後，部分技術公司已表態將終止合作。

奧利維亞·卡維爾 但還有像Stability AI和Midjourney這樣資金雄厚的技術公司，它們正在開發強大的生成式AI工具。這些公司聲稱已設置防護措施，防止有人利用其技術製作深度偽造色情內容。但仍有方法可以繞過限制——比如使用舊版開源技術，或通過特殊指令規避關鍵詞過濾。Stability AI拒絕接受採訪，Midjourney也未予回應。

瑪吉·墨菲 而脱衣應用並未被徹底封禁。像Meta這樣的巨頭仍允許這些公司在其龐大平台上購買廣告並向消費者推廣。據某些報道顯示，近90%流向特定脱衣應用的流量是由Facebook或Instagram的廣告驅動的。

我們通過電子郵件聯繫了其所有者Meta，他們告訴我們這些應用和廣告違反了他們的規定。一旦發現這些廣告，他們會將其刪除，禁用相關賬户並屏蔽指向宿主網站的鏈接。但發言人指出這是一場持續的鬥爭。這些應用背後的操縱者不斷改變策略以保持領先。如果被屏蔽，他們只需換個新域名就能捲土重來。

大衞·邱 我們希望隨着更多人關注這一現象，以及讓人們瞭解我們參與的訴訟，其他相關方也能站出來儘自己的一份力，幫助我們共同打擊這些不良行為者及其利用AI剝削技術虐待真實人羣的行為。

奧利維亞·卡維爾 人工智能已成為我們現實的一部分。它無處不在，觸及我們生活的方方面面。但它的存在並不意味着無法被約束。這不是科幻小説。機器人尚未接管世界…至少現在還沒有。

大衞·邱 我必須説，我個人如此迫切希望團隊徹查此事的原因之一是我有一個八歲的兒子。我擔心如果未來我們無法控制深度偽造色情內容，他們這一代人將遭受現今難以預料的衝擊。不僅是對他女性同學的影響，更包括對男孩和青少年成長過程中認知行為規範、與同學朋友及未來伴侶相處方式的扭曲。這種由AI助長的剝削令人毛骨悚然，我擔心它已打開潘多拉魔盒，若不迅速採取行動，可能會毀掉整整一代年輕人。

奧利維亞·卡維爾 萊維敦案讓我們意識到事態嚴重性遠超想象。儘管這是早期案例之一，但它不僅涉及深度偽造和紀念網站，更超越了數十名學生遭受的痛苦與恐懼。直至今日，此案仍具有警示意義。

塞西莉亞 我希望在這次案件和他被定罪後，社會對待這類道德越界行為的方式能有所改變，你明白嗎？

奧利維亞·卡維爾 我詢問了萊維敦事件中的女性之一塞西莉亞，問她認為什麼能幫助其他經歷類似遭遇的人。

塞西莉亞 希望今後當有人濫用AI或科技傷害他人時，我們能更清楚該如何應對。這是我經歷過最黑暗的事情——不是所有人都能痊癒或幸運地找到傾訴渠道。但我真心希望能出台監管措施，讓別人不必再經歷這種受害感受的任何方面。

奧利維亞·卡維爾 所有受訪女性都同意分享經歷，因為她們意識到即使到現在，保護受害者和他人的保障措施仍少之又少。

帕特里克·凱里因表現良好於2023年8月提前獲釋，共服刑四個月。

塞西莉亞以艱難的方式發現了真相；有一天她開車經過他走在街上，差點恐慌發作。

凱拉也見過帕特里克——就在她家附近。在某種程度上，她已成為事實上的發言人——這個角色或許並非她主動尋求，但她説，因為自己的經歷，她無法保持沉默。

奧利維亞·卡維爾 對於至今仍無聯邦法律禁止這種現象，你作何感想？

凱拉 這非常令人沮喪——極其沮喪。我完全無法理解。我真的不明白為什麼他們就不能——明明有那麼多案例可以拿來佐證，“這是這樣，那是那樣”——為什麼就不能做出改變？必須有所改變。

很不幸我們要經歷這些，但這不意味着你無法阻止它。總有你能做的事。我是説，我不知道這有多難，但想想我站出來説這些有多難。

我是説，我本不該做這些。但我做了，因為值得。因為值得讓更多人知道。因為必須有所改變。

瑪吉·墨菲 本系列報道由奧利維亞·卡維爾和我瑪吉·墨菲共同採製主持。

由萬花筒製作——朱莉婭·納特領銜，內達·託洛伊-塞姆納尼編輯，達拉·盧克-波茨製片。執行製片凱特·奧斯本。原創作曲與混音史蒂夫·伯恩。事實核查由李娜·常完成。

我們的彭博社編輯是凱特琳·肯尼和傑夫·格羅科特。薩曼莎·斯圖爾特參與部分報道。塞奇·鮑曼是彭博社執行製片兼播客主管。克里斯汀·鮑爾斯是我們的高級執行編輯。

萊維敦檔案片段由Screenocean Clips & Footage提供。

來自iHeart，我們的執行製片人是Tyler Klang和Nikki Ettore。

特別感謝Robert Friedman、Andrew Martin、Gilda Di Carli、Angel Recio、Victor Yvellez和Bloomberg的Shawn Wen。同時感謝Alex Stamos、Henry Ajder、Matt Tora、Paul Manton以及萊維敦歷史協會、拿騷縣地區檢察官Anne Donnelly和Nicole Turso。

還要感謝萊維敦所有與我們分享故事的年輕女性和父母。