全球AI換臉色情人物一半是韓國人！韓方找法方：要和“電報”談

【文/觀察者網 阮佳琪】

最近一週，韓國“深度偽造”（deepfake）AI換臉性犯罪事件曝光，以女性為主的近千人受到侵害，200多所學校牽涉其中，初高中生未成年人作案比例驚人，正進一步引發韓國社會恐慌。據韓聯社29日報道，在當天召開的韓國國會緊急會議上，韓國政府和執政黨國民力量黨就加強措施打擊此類犯罪達成共識。

報道提到，對於有關受害者照片和信息在“電報”（Telegram）羣組的流出，雙方還決定推動與“電報”的運營公司開通合作熱線，並採取立法措施，打擊製作並意圖分發“深度偽造”色情內容的犯罪行為，對有關犯罪者的最高監禁期限從目前的5年提高到7年，從立法角度將“虛假視頻”傳播的刑期與“非法拍攝”等同。

執政黨政策委員會主席金相勳在會後表示，“深度偽造”色情內容正通過“電報”廣泛傳播，但由於Telegram的服務器位於海外，這讓國際合作面臨挑戰。他補充道，韓國政府將與“電報”的運營方舉行會議，並尋求與該公司建立熱線電話，以推動定期協商機制。

報道還稱，考慮到“電報”的創始人兼首席執行官帕維爾·杜羅夫近日在法國被捕後獲得保釋，韓國國家媒體監督機構韓國廣播通信委員會表示，韓方已緊急致函法國當局，要求協助打擊網絡性犯罪。

當地時間8月30日，“深度偽造”犯罪讓韓國社會恐慌，多名女性中央政府集會前抗議。視覺中國

過去一週時間裏，韓國警方發現了大量與學校、醫院、軍隊有關的涉案社交媒體羣組，這些羣組裏的淫穢影像經深度偽造換臉而製成。涉及羣組的參與人數不等，少的幾百上千人，多的有數萬人以上，總計參與用户多達22萬人（包含可能重複的情況）。經初步調查，受害者80%為女性，包括大學生、教師、軍人等，甚至有不少初高中生等未成年人。

根據韓國婦女人權研究所公佈的數據，從今年1月1日到上週日，共有781名“深度偽造”受害者在線求助，其中288名（36.9%）是未成年人。據韓國教師聯盟估計，目前已有超過200所學校受到影響。

一個更令人恐慌的趨勢是，在這些案件中，未成年人作為加害者的涉案比例相當驚人。

“網上最近針對不明人數的深度偽造視頻正迅速傳播。受害者通常是未成年人，而施暴者大多是青少年。”8月27日，尹錫悦就此次事件發表講話稱：“雖然他們拿惡作劇為這類行為開脱，但這是在匿名的遮羞布之下惡意利用技術的明確的犯罪行為……任何人都可能成為受害者。”

根據韓國警察廳的説法，今年前七個月共報告了297起色情相關的“深度偽造”犯罪案件，高於去年的180起，幾乎是2021年數據首次整理時的兩倍。在178名被指控的人中，青少年涉案者超六成（113人）。

在最近4年被立案調查的嫌疑人中，青少年比例仍然維持在較高水平，從2021年的65.4%、2022年的61.2%上升到2023年的75.8%。今年前7個月則達到了73.6%。

據《朝鮮日報》報道，因為“只是覺得有趣”、“只是在開玩笑”、“用熟人的照片P圖更真實”等原因，“深度偽造”在韓國10代羣體之間像“遊戲”一樣盲目蔓延。加之“電報”等社交媒體的匿名性，犯罪者更加有恃無恐，甚至出現了“只有傻瓜才會被被警察逮住”的言論。

《東亞日報》的報道提到了一個案例：2021年7月，韓國某校一名初三學生A某委託他人，用深度偽造將兩名15歲女生的臉部合成到裸體照片中，此後A某自己學會了製作方法，並先後製作了包括以兒童、青少年為性剝削對象的177件偽造色情圖頻，在“電報”聊天室中販賣盈利。A某更變本加厲將合成圖片發送給受害女性，威脅對方拍攝裸體視頻。被警方抓獲後，A某去年被判有期徒刑2年，緩刑4年。

韓聯社指出，深度偽造性犯罪在青少年中蔓延，但政府並沒有採取任何預防措施，沒有通過教育進行主動干預，只能通過執法機構在事後進行懲處。韓國政府政策協調辦公室30日對此回應表示，韓國教育部已決定在教育領域採取具體措施，包括加強學校的預防教育等。

首爾警察廳官員表示，許多青少年因過度依賴信息技術，缺乏相關法律意識，參與制作和傳播深度偽造內容，導致校園內此類犯罪行為氾濫。警方計劃與教育部門合作，強化學校的數字性犯罪預防教育，包括告知學生分發非法合成材料是嚴重犯罪，以加深學生對數字性犯罪的認識。

在敦促政府迅速採取措施遏制此類犯罪行為中，韓國國民力量黨黨首韓東勳也強調，有必要下調未成年人承擔刑事責任的年齡標準。

按照韓國《少年法》目前的規定，年齡在10至14歲之間的兒童不對自己的行為承擔刑事責任，不會被送往監獄，而是會被送去少年拘留所，或被判罰從事社區服務。

目前韓國警方已成立特別工作組，從8月28日開始展開為期七個月，針對深度偽造性犯罪等虛假視頻案件的專項行動。由於“電報”服務器設在境外，且涉案人可隨手刪除淫穢影像和自己發佈過的信息，偵查難度較大，韓國警方計劃以市、道警察廳網絡性暴力調查組為中心積極展開整治行動。

韓國《中央日報》援引美國安全服務機構“Security Hero”最新公開的《2023深度偽造技術現狀》報告報道稱，韓國被評為最容易受到深度偽造技術性剝削的國家。

據報道，去年7月至8月，對前10名深度偽造技術色情網站和YouTube、Daily Motion等85個深度偽造技術頻道進行分析的結果顯示，在深度偽造技術性剝削物中出現的人物中，53%是韓國人，排名第一。緊隨其後的是美國（20%）、日本（10%）、英國（6%）。  

多家外媒也關注到，在數字性犯罪上有着諸多黑歷史的韓國，又在面臨深度偽造性剝削的打擊。“長期以來一直在努力根除‘隱藏攝像機’偷拍性愛視頻的韓國，正在與深度偽造圖像潮流作鬥爭。”英國《衞報》稱。

“N號房事件”餘威未消，韓國女性又陷入“AI換臉恐慌”。據《韓民族日報》30日報道，韓國網絡性暴力應對中心、韓國性暴力諮詢所等84個女性團體發表聲明，敦促政府制定“不被狹隘的法律和部門壁壘分割的，為數字市民的安全權利制定綜合對策”。

這些團體表示，即便從2017年針對數字性犯罪就已制定了不少對策，但非法合成性犯罪仍在大量發生。她們要求女性家族部恢復支援和防止性暴力的預算、加強考慮到數字性犯罪特性的警方調查、制定網絡平台限制政策。

國正義黨前副黨首、女權主義活動家裴福珠日前對法新社表示，她不信任尹錫悦政府可以有效解決“深度偽造”犯罪問題，因為這個政府拒絕承認韓國存在“結構性性別歧視”。這也是這些女性團體的呼籲之一，她們敦促尹錫悦政府全面修改“沒有結構性性別歧視”的政策基調。

本文系觀察者網獨家稿件，未經授權，不得轉載。