陳根：人工智能“脱衣”再現，技術與道德的撕裂對立_風聞

文/陳根

2019年6月，一款名為DeepNude的應用在海內外爆紅。令其爆紅的原因只有一個——只要給出一張女性照片，DeepNude藉助神經網絡技術，就可以自動“脱掉”女性身上的衣服，顯示出裸體。

對於神經網絡技術的理解門檻雖高，但應用卻並不費力，因為對於使用者來説，無需任何技術知識，一鍵即可獲取。一時間，大量色情圖片在網絡氾濫，很快，DeepNude級在輿論批評聲中下架了。

**在人們對DeepNude一鍵“脱衣”的震撼還未完全淡去時，**這款色情的軟件再次出現在了即時消息應用程序——Telegram中。而這次關於DeepNude的發現，影響更甚，危害也更大。

這項關於DeepNude的調查來自美國阿姆斯特丹的網絡安全公司Sensity，這家公司專注於所謂的“視覺威脅情報”，尤其是那些深度造假視頻的傳播。

據Sensity報告顯示，目前DeepNude已經產生了68萬以上女性的假裸照，在TeleGram平台已經公開發布了約104,852張色情圖片，其中70%的照片來自社交媒體或私人渠道，而這一數據還不包括私下分享傳播的圖片。

**更重要的是，這些圖片70%全部來自社交網絡中的真實女性，甚至包括未成年人。**這意味着，日常在Facebook、微博等社交媒體中分享的自拍照，很可能會被人用來生成“裸照”。

DeepNude****成熟背後的技術背景

**DeepNude的成熟，離不開一個名為DeepFakes的軟件被匿名開源發佈。**2017年，ID為“deepFakes”發佈了通過機器學習來更換視頻人臉的 AI 算法。

DeepFakes是“deep machine learming”（深度機器學習）和“Fake photos”（假照片）的組合，是依託大數據和人工智能深度學習機制，基於數據算法和人臉數據庫對既有視頻或圖片中的人物面部圖像進行替換的技術工具。在開源代碼庫平台CitHub上，DeepFakes被描述為“一種利用深度學習技術來識別和交換圖片、視頻中人物臉部圖像的工具”。

只要有足夠的圖片視頻素材，有一定的硬件支持，DeepFakes就可以搭建算法匹配模型進行換臉視頻的製作。具體原理思路為：對於每張臉，都訓練一套編碼器和相應的解碼神經網絡。編碼時，使用的是第一個人的圖片。而解碼時，卻是使用第二個人的解碼器。而其中主要包含數據預處理、圖片融合、圖像預處理、網絡模型、圖像融合等技術。

**此外，**利用AI製作換臉視頻除了要藉助已開源的DeepFakes技術，還需要兩個競爭AI系統的參與，一個是生成模型，另一個是判別模型。生成模型和判別模型的結合被稱為CAN（CenerativeAderaril Netwoks，生成對抗網絡技術，簡稱“GAN”，是深度學習原理中重要的監督學習模型），也是AI換臉最底層的邏輯。

GAN是AI機器學習中較成熟的理論，在最開始的技術中，DepFakes正是藉助生成對抗網絡，通過上萬張照片來替換視頻每秒鐘存在的30個畫面，最終通過GPU（CaphiesPoesing Unit，圖形處理器，簡稱“GPU”）訓練完成“移花接木”，僅憑一張照片便可實現面部替換和視頻生成。

但當時該技術的使用門檻還比較高，需要編譯代碼等操作。然而，當DeepFakes技術的持有人在網絡論壇中直接開源了該技術的算法代碼並在GitHub上建立了開源項目時，一切都不一樣了。

DeepFakes技術變得唾手可得，後來的AI換臉App和DeepNude出現正是基於這一技術，**不同的是，**對比DeepFakes需要大量的技術專業知識、龐大的數據集以及昂貴的GPU，DeepNude更容易使用，也更容易訪問。時下的DeepNude操作已非常簡單，只需要一張照片，上傳至軟件後，幾秒就可以自動生成裸照，不需要任何技術知識或者專門的硬件支持。

DeepNude****令人悚然的盈利背後

儘管DeepNude可供所有人免費使用，但它也有其盈利模式，未付費用户獲得的裸照後會打上水印標籤或者只有局部裸露，用户支付1.28美元才可以獲得無水印圖片，但使用權限僅限七天100張。用户也可以通過介紹他人使用這項服務來賺錢。

此外，DeepNude還在VK網站上發佈了廣告，據統計，在該網站上目前已經有了380頁的搜索量。這種病毒式的擴張方式，讓DeepNude的會員迅速增長。

根據Sensity的報告，DeepNude在去年6月就已上線，上線兩個月用户幾乎過萬，到今年6月，已經有了4.5萬用户。截至7月底，Telegram平台七個主要頻道均在使用DeepNude軟件。DeepNude的使用者還在telegram上成立了社區。而目前這個社區已有成員多達101,080人，其中70%居住在俄羅斯或東歐。

低門檻的使用和低廉的價格帶來了可觀的收益和病毒式的擴張，而背後的代價卻令人警惕和感到悚然。

技術的社會屬性是技術社會風險形成的根源。技術應用是一面鏡子，映射出人類文明的發展水平**，而DeepNude的走紅則在狂歡中直逼道德底線。**其惡劣的一鍵“脱衣”實際上打開了女性被攻擊的可能性，其應用程序和易訪問性更意味着女性在網上面臨的更大的網絡騷擾或危險題，這將對社會造成巨大影響。

一方面，DeepNude的一鍵“脱衣”勢必會對被換臉者的聲譽造成影響。除了對肖像權名譽權的侵犯，不法分子往往會利用該技術製作帶有特定人臉的不雅視頻進行敲詐勒索牟利。

比如，前幾年合成豔照敲詐勒索官員的案例，不法分子為非法牟利，從網上搜索社會成功、知名人士的頭像合成不雅照片，利用他們懼怕醜聞、顧及名譽的心理特點進行敲詐勒索。互聯網時代，不雅視頻或不雅圖片這類信息的傳播很難得到控制，給相關當事人帶來的負面影響也是深遠持久的。

另一方面，通過DeepNude，任何用户使用任何照片都可以生成裸照，而這將大大增加製作、傳播、販賣淫穢物品牟利犯罪可能性。

Deepfake偽造色情視頻已經屢見不鮮，主要以為名人為目標。其也由最初的色情視頻製作，到後來的全民娛樂、惡搞，發展到今天已經走向了製作、傳播淫穢物品牟利的黑色產業。但根據一項民意調查顯示，大多數用户對“現實生活中認識的女性”更感興趣，佔比達到了63%。

DeepNude恰好提供了這樣的支持，從TeleGram平台的公開數據來看，許多照片中的女性都是普通上班族、大學生，而且這些照片都是來自TikTok、Instagram、Facebook等平台的自拍照。

這為色情的傳播帶來了新的興奮點和吸引力，滿足了相關人羣獵奇、好奇等多重心理需求，容易產生一定的受眾羣體和市場。但這種以非法牟利為目的製作色情視圖並上傳到互聯網甚至出售的行為，已經構成製作、傳播、販賣淫穢物品牟利罪，不僅有悖社會道德和公序良俗，更是對互聯網健康環境和良好秩序的挑戰。

技術與與倫理的巨大鴻溝

對於女性強有力的攻擊是第一步，然後呢？**新興技術拓展了新的領域與空間，倫理規範等卻還停留在過去。**DeepNude只是人工智能矩陣的一個產品之一，而其本質上是一種偽造手段，除了娛樂或私慾外，其社會的危害程度不容小覷，濫用風險涉及方方面面，“深度偽造”的算法技術與與倫理之間的巨大鴻溝造成了社會頻發的爭議，讓人謹之慎之。

人類的面部與身份特徵都被數字化，算法將人的身份拆解，傳統意義上的身份特質分解並與他人的身份特質再組合重構，人工智能再造的虛擬形象以擬製主體身份展現在真實的人類面前，在倫理上必然造成社會的恐慌與倫理重構。

人的體貌特徵融合後不再具體的某個人典型的身份，跨越了國界種族的限制，失去了辨識度，一方面容易造成社會角色混亂與身份特徵混淆。另一方面，自然人的身份被商品化也並非當下社會倫理所能接受，在相關人員不知情情況下，複製、改造他人的面孔，甚至惡意融合不雅內容以謀求金錢利益，構成對他人尊嚴的損害，被解構整合身份特徵的人淪為被消費的商品。

此外，現階段深度偽造的生成物所依託的技術手段足以達到以假亂真的程度，“眼見為實”不再適用，人類難以在日常的社會生活中區分數字面孔與自然人，虛假內容輕易取得信任，真偽之辨難上加難，合理的猜測與過度猜忌的界限更加難以平衡，這必然對社會造成更大的信賴難題。

真偽界限被數字化操縱，娛樂的趣味性與真相的真實性在混淆視聽的人工智能生成物問世後更加模糊。“娛樂至死”的扭曲價值衝擊着當下倫理觀，進而引發一場社會信任危機。

最後，宗教信仰、種族國籍、國際政治領域所涉及的問題具有敏感性，更加需要真實報道與平等人權的保護，肆意更換外貌特徵與偽造具有特殊意義的視頻在這些領域的濫用，在社會穩定上的破壞力可能直接引發難以控制的後果。

《如何輸掉信息戰》一書的作者尼娜·揚科維茨（Nina Jankowicz）就指出，DeepNude對世界各地的女性都有巨大的影響，尤其是在俄羅斯這樣的社會保守國家。如果一張令人信服但卻是假的裸照公之於眾，受害者可能面臨失去工作和生計的風險。有些人可能面臨伴侶暴力。

同時，利用偽造技術生成政治領袖發表不當言論的音視頻，不符宗教信仰的行為，威脅國際關係的各種材料，將會大幅度增加社會關係複雜性，不利於社會穩定局面與國家長治久安。

儘管對於“深度偽造”技術的檢測方式越來越多，準確度越來越高，但事實上，製造虛假視頻或圖像的趨勢依然沒有得到很好的抑制。究其原因，其一可能是AI生成虛假內容越來越方便，如DeepNude，只需要一張照片，人人都可以上手。而其二，如Sensity公司負責人所説，DeepNude目前還處於法律的灰色地帶。

而人工智能“脱衣”只是數字科技所引發的科技倫理問題之一，隨着人工智能類人機器人的出現，人類的兩性關係與婚姻倫理將受到根本性的衝擊、挑戰與改變。可以説這個時代是最美好的時代，也是最具有挑戰性的時代，我們的道德、價值、倫理因為科技的發展在經受着不斷的挑戰與衝擊。

技術的傷害從來不在於技術本身，而只在於使用技術的人，對技術知識的封堵和審查，既無法阻止其擴散和傳播也不利於社會的進步，最後，所有的爭論都回到了人類本身，只有人心向善，才能科技至善。