AI“Nudify”應用程序在照片中脱掉女性的使用量飆升-彭博社

應用程序和網站使用人工智能在照片中脱掉女性的人氣正在飆升，研究人員稱。

社交網絡分析公司Graphika發現，僅在九月份，就有2400萬人訪問了脱衣網站。

Graphika稱，許多這些脱衣或“裸化”服務利用流行社交網絡進行營銷。例如，自今年年初以來，在社交媒體上廣告脱衣應用的鏈接數量增加了2400%，包括在X和Reddit上。這些服務利用人工智能重新創建圖像，使人物裸體。許多服務只對女性有效。研究人員説。

閲讀更多：沒有法律保護人們免受深度偽造色情的侵害。這些受害者進行了反擊

這些應用程序是非自願色情的一種令人擔憂的趨勢的一部分，這是由於人工智能的進步而開發和傳播的——一種被稱為深度偽造色情的虛構媒體。它的傳播涉及嚴重的法律和道德障礙，因為這些圖像通常是從社交媒體上獲取並在未經主體同意、控制或知情的情況下傳播。

Graphika表示，這一受歡迎程度的上升與幾個開源擴散模型的發佈相對應，或者説是人工智能可以創建比幾年前更優秀的圖像。由於它們是開源的，應用程序開發者使用的模型是免費提供的。

“你可以創建一些看起來真實的東西，”Graphika的分析師Santiago Lakatos説道，指出以前的深度偽造通常模糊不清。

在X上發佈的一張圖片宣傳了一個脱衣應用，使用的語言暗示客户可以創建裸體圖片，然後發送給被數字脱衣的人，引發騷擾。與此同時，其中一個應用在谷歌的YouTube上付費推廣內容，並且在搜索“nudify”時首先出現。

一位谷歌發言人表示，公司不允許包含性暗示內容的廣告。

“我們已經審查了相關廣告，並刪除了違反我們政策的廣告，”該公司表示。

一位Reddit發言人表示，該網站禁止非自願分享虛假的性暗示材料，並因此研究結果封禁了幾個域名。X沒有回覆評論請求。

除了流量增加外，一些服務聲稱他們的網站吸引了大量客户，其中一些服務每月收費9.99美元。“他們的業務做得很好，”Lakatos説道。他描述了其中一個脱衣應用，“如果你相信他們的話，他們的網站宣傳每天有超過一千名用户。”

公眾人物的非自願色情素材長期以來一直是互聯網的禍害，但隱私專家越來越擔心人工智能技術的進步使深度偽造軟件變得更容易和更有效。

“我們看到越來越多的普通人以普通目標為對象進行這樣的行為，”電子前沿基金會的網絡安全主任Eva Galperin説道。“你會看到這種情況發生在高中生和大學生中。”

許多受害者從未發現這些圖片，但即使發現了，他們也可能很難讓執法部門進行調查或找到資金來進行法律訴訟，Galperin説。

目前，美國沒有禁止製作深度偽造色情作品的聯邦法律，儘管美國政府確實禁止生成這類未成年人的圖片。去年11月，一名北卡羅來納州的兒童精神病醫生因使用脱衣應用程序對他的患者的照片進行深度偽造而被判處40年監禁，這是根據禁止深度偽造生成兒童性虐待材料的法律進行的首次起訴。

TikTok已經封鎖了關鍵詞“脱衣”，這是與這些服務相關的熱門搜索詞，警告任何搜索這個詞的人，它“可能與違反我們準則的行為或內容有關”，該應用表示。TikTok的一位代表拒絕詳細説明。作為回應，Meta Platforms Inc.也開始封鎖與搜索脱衣應用程序相關的關鍵詞。一位發言人拒絕置評。