西班牙多名少女被AI做假裸照敲詐_風聞

封面新聞

2023年09月25日 21:59:34 來自北京

生成式人工智能（AI）狂飆，在技術賦能下多項產業革新之餘，它如同一把雙刃劍，使造假也變得更加輕而易舉。

快速進化的AI生成技術，讓生成假照片、圖像/視頻換臉更加真假難辨。近年來，不少人唯恐天下不亂，借用P圖造謠生事，或者進行敲詐勒索。

據英國廣播公司24日報道，西班牙發生一起利用AI的深度偽造技術製作少女裸照的事件，疑犯不僅將裸照在校園內及網絡上傳播，更有甚者利用裸照進行勒索。

至少有28名11歲至17歲的少女成為受害者，當地警方展開調查後，鎖定嫌犯為11名未成年男孩。此事引起外界震驚，再次引發人們對AI技術被不法利用的隱憂。

▲AI應用程式ClothOff官網截圖。圖源西班牙媒體。

受害女孩不敢踏出家門半步

仍有“裸照”陸續流出

事件最開始由當地知名婦科醫生阿迪布揭露，她的兩名14歲和17歲的女兒都是受害者。阿迪布在社交媒體上發佈了視頻，希望引起大眾關注，呼籲受害女孩和家屬一同報警。

她表示，女兒稱有人用應用程式製作了裸照，“那些合成照片超級真實，這令人非常不安和憤怒”，照片在網上瘋傳，還有同學留下帶有惡意的評論，女兒看到後感到困擾，照片甚至有可能已經傳到兒童色情網站上了。

阿迪布説：“這些假裸照如果被傳到色情網站，將給這些孩子造成心理創傷，性犯罪反而會讓受害者感到羞恥。”

另一名受害少女的母親戈梅茲向當地媒體表示，一名男孩試圖用假裸照勒索她的女兒，在遭到拒絕後，男孩便發了一張該女孩的“裸照”。

經警方調查，至少有11名當地的男孩被確定參與了製作上述裸照，並在社交軟件WhatsApp和Telegram上傳播。部分男孩還是受害少女的同學。裸照的流傳對受害人造成極大的傷害，部分女孩甚至“不敢踏出家門半步”。她們的父母還專門成立了一個組織來保護孩子們。

據西班牙留學生小郭透露，儘管有了阿迪布的爆料和警方的介入，罪犯仍舊十分猖獗。到目前為止，平台上仍有新的照片陸續流出。小郭表示：“已經有部分家長起訴這個軟件的公司，但是還沒有後續。”

小郭告訴記者：“我們瞭解到這些信息的話當然會擔心，但實際上擔心沒有任何用途，在目前的網絡環境下根本不可能做到照片完全私密化。”

嫌疑人年齡在12歲至14歲之間

量刑成為難題

西班牙國家警察稱，目前正在展開調查，他們聽取了7名受害者的陳述，已經確定了可能參與的一些未成年人。律師費爾南多·坎佈雷斯警告説，這些照片的作者可能面臨最高九年的監禁，此外還要承擔民事責任。不僅如此，這些罪行也會影響傳播圖像的人，即使他們不是事實的作者，但都與侵犯個人隱私的犯罪有關。

但另一方面，涉嫌使用AI合成裸照的嫌疑人年齡在12歲至14歲之間，如何給他們定罪是個難題。儘管裸照涉及兒童色情內容，但西班牙現行法律並沒有具體規定AI色情圖片的量刑問題；只有超過14歲才會面臨刑事指控，而部分嫌犯還不滿14歲。

西班牙警察網絡犯罪部門兒童保護相關負責人哈維爾·伊茲奎爾多表示：“未成年人能夠輕鬆使用這項技術是我們面臨的新挑戰。”

多起案例連發

西班牙掀起反性騷擾浪潮

阿爾門德拉萊霍市長拉米雷斯表示，這起事件“又是一起性別暴力案件”。在稍早之前，西班牙足協主席盧比亞雷斯被指控未經同意親吻女足世界盃冠軍埃爾莫索，受到外界撻伐。而本月14日，一名男子在街頭性騷擾正在連線直播的女記者，遭到警方逮捕。

如今又爆發散佈造假的未成年女孩裸照事件，也令西班牙民眾感到氣憤，並掀起一陣反性騷擾和性別暴力的浪潮。有人表示：“這會讓我們想到自己的孩子。”也有人表示，嫌犯的父母必須受到譴責：“他們應該做些預防措施，譬如收走孩子的手機，或者規定孩子的手機裏哪些應用程序可以用、哪些不能用。”

在此次事件中有幾十名未成年人受到影響，但只有不到一半的未成年人向警察局提出投訴。阿迪布呼籲女孩們不要害怕報告此類行為，“你是受害者，你不應該為發生的事情負責，要將這些事情告訴你的親戚朋友們，他們會幫助你，而不必保持沉默或羞愧。”

到底是什麼在支撐未成年人犯罪？

一羣青少年決定使用程序生成未成年人的裸照進行敲詐勒索，那麼，到底是什麼工具在支撐這種犯罪？據悉，這些青少年先是用一個名叫ClothOff的AI應用程式來製作裸照，而後再通過社交平台進行病毒式傳播。

據瞭解，ClothOff主要利用深偽技術，其口號則是“脱掉任何人的衣服，免費脱掉女孩的衣服”，用户需要花費10歐元，上傳正常着衣的照片，就可以立馬得到25張裸體的照片，效果極其逼真。即使不付費，也可以通過邀請其他朋友或等待三天來免費使用，其唯一的要求是該人獨自出現在圖像中，取景或姿勢都無關緊要。

此外，要使用此工具，ClothOff在服務條款中指出，用户必須年滿18歲或獲得父母、法定監護人的許可。

令人驚訝的是，ClothOff在服務條款中警告説，互聯網用户“對生成的圖像負全部責任”或“負責不將應用程序用於非法或未經授權的目的”，例如創建令人反感的內容和侵犯知識產權。它還強調，它“不主張對結果內容的所有權”，因為該服務“旨在用於個人和非商業用途”。

同時，在頁腳中，ClothOff強調“我們不保存任何數據”“我們對使用網站創建的圖像不承擔任何責任”。這些條款還受西班牙憲法的保護。

▲ClothOff網站底部聲明對產生的圖像不承擔任何責任。

AI存在於我們的日常生活中，無論是生成文本、提出個性化建議、進行學術工作、編輯照片還是創建圖像，以及眾多選項。在大多數情況下，AI以積極的方式幫助人類完成許多任務的補充，但是，它也有可能違反法律，其帶來的不良後果也應當引起各方警惕。

“用户利用AI換臉技術偽裝，導致被偽裝人的肖像權等權利被侵權，或導致其他人的感情和財產大量受損時，平台在未盡到合理審核義務、未有效規制該類行為發生的情況下，需要承擔一定的幫助侵權甚至直接侵權法律責任。”泰和泰律師事務所律師劉青告訴封面新聞記者，但是，除非平台故意為之或協助詐騙人進行詐騙行為，否則很難認定平台構成詐騙罪。

“用户在使用AI技術介入的軟件或互聯網產品時，一方面應當注意勿惡意利用AI技術進行不法行為，另一方面也應注意識別、核對交流方的真實身份，切勿輕信表象，在需要轉賬或花銷採購時謹慎考慮。”劉青指出，若民眾遭遇詐騙應當第一時間報警尋求警方的幫助，注意保留相關材料以供警方儘快掌握案情，嚴懲犯罪分子。“此外，一旦發現自己的肖像被盜用或者‘被換臉’，我們應當第一時間保留證據，以便後續維權；同時還可以向網絡平台運營商提出投訴，要求強制下架侵權圖片或視頻；最後，也可以提起人格權訴訟，用法律武器維護自己的合法權益。”