谷歌、微軟工具推動深度偽造色情AI的激增 - 彭博社

攝影師：731的拼貼，蓋蒂(2) 當Kaitlyn Siragusa的粉絲們，一個知名的29歲網絡名人，被稱為Amouranth，想要觀看她玩視頻遊戲時，他們會每月支付5美元訂閲她在 亞馬遜公司的Twitch頻道。當他們想觀看她表演成人內容時，他們會每月支付15美元，以獲取她明確的OnlyFans頁面的訪問權限。

當他們想觀看她做她從未做過的事情時，免費的時候，他們會在谷歌上搜索所謂的“deepfakes” —— 使用人工智能製作的視頻，製造出一個真實女性面部的逼真模擬性行為。

Siragusa，經常成為deepfake製作者的目標，説每當她的工作人員在搜索引擎上發現新東西時，他們就會向谷歌提交投訴，並填寫一個表格請求刪除特定鏈接，這是一個耗時耗力的過程。“問題在於，這是一場持續的戰鬥。”

在最近的 AI繁榮期間，非自願色情deepfakes的製作激增，根據獨立分析師Genevieve Oh的研究，自2019年以來，視頻數量增加了9倍。根據Oh的分析，2023年5月，在30個網站上出現了近15萬個視頻，總共獲得了38億次觀看。一些網站提供深度偽造編程的庫，以名人如艾瑪·沃特森或泰勒·斯威夫特的面孔嫁接到色情表演者的身體上。 其他網站為付費客户提供了“裸體化”認識的女性的機會，例如同學或同事。

技術界一些最大的名字，包括Alphabet Inc.的Google、亞馬遜、X和微軟公司，擁有促進最近深度偽造色情潮流的工具和平台。例如，Google是廣泛使用的深度偽造網站的主要流量驅動器，而X的用户，以前被稱為Twitter，經常傳播深度偽造內容。亞馬遜、Cloudflare和微軟的GitHub為這些網站提供了關鍵的託管服務。

對於希望追究深度偽造色情的目標的經濟或情感損害責任的人來説，沒有簡單的解決方案。目前，美國沒有任何聯邦法律將非自願深度偽造色情的創作或分享定為刑事犯罪。近年來，有13個州通過了針對此類內容的立法，導致了一系列難以執行的民事和刑事法規，根據Matthew Ferraro，WilmerHale LLP的律師的説法。迄今為止，根據Ferraro的研究，美國還沒有人因製作AI生成的非自願性內容而被起訴。因此，像Siragusa這樣的受害者大多被迫自力更生。

“人們總是在發佈新視頻，”Siragusa説。“看到自己出現在未經同意的色情內容中，在情感上感覺噁心。”

然而，最近，一羣越來越多的科技政策律師、學者和反對製作深度偽造色情的受害者開始探索一種新的方法來解決這個問題。為了吸引用户、賺錢並保持運營，深度偽造網站依賴於由大型上市公司提供的廣泛的技術產品和服務網絡。儘管這類交易性在線服務在美國法律上往往受到很好的保護，但深度偽造產業的反對者認為其依賴這些來自備受輿論關注的科技巨頭的服務可能是一個潛在的弱點。他們越來越多地直接向科技公司提出訴求，並公開施壓他們，要求撤銷和下架有害的AI生成內容。

“行業必須帶頭進行一些自我管理，”CITRIS政策實驗室的創始主任Brandie Nonnecke説道，她專門研究技術政策。與其他研究深度偽造技術的人一樣，Nonnecke認為應該對個人是否批准使用他們的面部，或者授予他們姓名和肖像權進行審查。

她説，受害者獲得正義的最大希望是科技公司“培養良知”。

活動人士的其他目標包括希望搜索引擎和社交媒體網絡採取更多措施來遏制深度偽造技術的傳播。目前，任何在Google搜索中輸入一個知名女性的名字並附上“deepfake”一詞的互聯網用户可能會看到數十個深度偽造網站的鏈接。根據網絡分析公司的數據，在2020年7月至2023年7月期間，前20個深度偽造網站的月訪問量增加了285%，其中Google是訪問量最大的來源。在7月，搜索引擎每天向最受歡迎的網站Mrdeepfakes.com發送了248,000次訪問， Similarweb估計，總共有2520萬次訪問，其中Google搜索佔全球搜索流量的79%。

2023年7月對Mrdeepfakes.com的訪問量中約44%來自Google

2023年7月對mrdeepfakes.com的桌面流量

來源：SimilarWeb

Nonnecke表示，Google應該做更多“盡職調查，創造一個環境，在這個環境中，如果有人搜索一些可怕的東西，可怕的結果不會立即出現在反饋中。”至於Siragusa，她表示Google應該“完全禁止深度偽造技術的搜索結果。”

作為回應，谷歌表示，像任何搜索引擎一樣，它索引存在於網絡上的內容。“但我們積極設計我們的排名系統，以避免向人們展示他們不想看到的意外有害或明確的內容，”發言人Ned Adriance説。該公司表示，他們已經開發了保護措施，以幫助受到非自願虛假色情影響的人，包括人們可以請求刪除包含這些內容的頁面。

“隨着這一領域的發展，我們正在積極努力增加更多的保障措施來保護人們，”Adriance説。

活動人士也希望社交媒體網絡做更多。X已經制定了政策，禁止合成和篡改媒體。即便如此，這類內容仍在其用户中定期傳播。根據監控社交媒體以獲取突發新聞的公司Dataminr的數據，每天有數十次關於深度偽造視頻和圖像的標籤被推文。根據數據，2023年第一季度和第二季度之間，與這些內容相關的八個標籤的推文數量增加了25%，達到31,400條推文。

X未回覆評論請求。

深度偽造網站還依賴大型科技公司為它們提供基本的網絡基礎設施。根據彭博社的一項審查，排名前20的深度偽造網站中有13個目前正在使用Cloudflare Inc.提供的網絡託管服務以保持在線。亞馬遜公司為幾個列在多個網站上的熱門深度偽造工具提供網絡託管服務，包括Deepswap.ai。過去的公共壓力運動成功地説服了網絡服務公司，包括Cloudflare，停止與具有爭議性的網站合作，從8Chan到Kiwi Farms。倡導者希望對託管深度偽造色情網站和工具的公司加大壓力可能會取得類似的結果。

Cloudflare未回應評論請求。亞馬遜網絡服務發言人提到了公司的服務條款，禁止非法或有害內容，並要求看到此類材料的人向公司舉報。

最近，用於製作深度偽造的工具變得更加強大和更易獲取。使用Stability AI等工具，可以按需生成逼真的換臉圖像。Stability AI是Stable Diffusion模型的製造商。由於該模型是開源的，任何開發者都可以下載並調整代碼以用於各種目的，包括創建逼真的成人色情內容。專門為深度偽造色情內容創作者提供服務的網絡論壇上，充斥着人們交流如何使用Stability AI早期版本模型創建此類圖像的技巧。

Stability AI的首席執行官Emad Mostaque稱這種濫用行為為“令人深感遺憾”，並將這些論壇稱為“可憎的”。他表示，Stability已經設定了一些限制措施，包括禁止色情內容用於AI模型的訓練數據。

Mostaque通過電子郵件表示：“任何開源代碼的惡意行為無法控制，但是可以採取更多措施來識別和定罪這種行為。”“AI開發者社區以及支持這一行業的基礎設施合作伙伴需要盡責，減少AI被濫用和造成傷害的風險。”

加州大學伯克利分校的教授Hany Farid表示，技術工具和服務的製造商應明確禁止在其服務條款中使用深度偽造材料。

“我們必須開始以不同的方式思考技術人員在開發工具方面的責任，”法裏德説。

雖然許多用於創建深度偽造色情網站的創作者和用户推薦的應用程序是基於Web的，但有些在由蘋果公司和谷歌的Alphabet Inc.運營的移動應用商店中readily可用。其中四款移動應用在Google Play商店中獲得了100萬次下載之間的下載量。其中一款名為FaceMagic的應用程序在色情網站上展示了廣告，根據VICE的一份報告。

深度偽造研究員亨利·阿杰爾表示，經常用於在線針對女性的應用程序通常被市場化為用於AI照片動畫或照片增強的工具。“這是一個廣泛的趨勢，你可以在手機上獲得的易於使用的工具直接與更多私人個體、日常婦女的被針對有關，”他説。

深度偽造網站訪問量增長

2020年7月至2023年7月間前20個深度偽造網站的訪問量

來源：SimilarWeb

FaceMagic未回應評論請求。蘋果表示，它試圖確保用户的信任和安全，根據其指南，主要用於消費或分發色情內容的服務在其應用商店中是嚴格禁止的。谷歌表示，企圖威脅或以性方式剝削人們的應用程序在其開發者政策下是不允許的。

Mrdeepfakes.com用户推薦一款由人工智能驅動的工具DeepFaceLab，用於製作非自願色情內容，該網站由微軟公司的GitHub託管。這家基於雲的軟件開發平台目前還提供了幾款經常在deepfake網站和論壇上被推薦的其他工具，其中一款工具直到8月中旬仍然展示了一個從胸部以上裸露的女性，其臉被換成了另一個女性的臉。該應用在GitHub上獲得了近2萬個“星標”。開發人員刪除了視頻，並在彭博社聯繫他們置評後於本月停止了該項目。

GitHub發言人表示公司譴責“使用GitHub發佈性淫穢內容”，該公司的政策禁止用户進行此類活動。發言人補充説，公司對此類內容進行“一些積極的篩查，此外還積極調查濫用舉報”，GitHub會對“違反我們條款的內容”採取行動。

彭博社分析了與deepfake製作者相關的數百個加密錢包，這些製作者顯然通過出售視頻庫的訪問權限、通過捐贈或向客户收費定製內容來賺錢。賺錢。這些錢包定期收到數百美元的交易，可能來自付費客户。創建deepfakes的論壇用户推薦接受通過主流處理器進行支付的基於網絡的工具，包括PayPal Holdings Inc.、Mastercard Inc.和Visa Inc. ——這也是活動人士尋求遏制deepfakes流傳的另一個潛在壓力點。

萬事達卡發言人塞思·艾森表示，公司的標準不允許非自願活動，包括這種深度偽造內容。來自貝寶和Visa的發言人沒有提供評論。

直到八月中旬，會員平台Patreon支持其中一個最大的裸體化工具的付款，該工具每月從Patreon訂閲者那裏獲得超過12500美元。在彭博社要求評論後，Patreon暫停了該賬户。

Patreon發言人勞倫特·克倫肖表示，公司對展示非自願親密圖像的頁面“零容忍”，也對鼓勵他人創建非自願親密圖像的頁面“零容忍”。克倫肖補充説，隨着人工智能繼續擾亂創作者經濟的許多領域，公司正在審查其政策。

卡里·戈德堡是一位專門處理涉及非自願分享性材料的案件的律師，她表示，最終決定深度偽造色情作品對受害者的影響的是科技平台。

“隨着技術滲透到我們生活的方方面面，我們同時使得當同樣的技術傷害我們時，更難追究任何人的責任，”戈德堡説。