ZAO火爆卻註定短命背後：換臉攻擊一直都存在？_風聞

文|鋅刻度記者****許偉

編輯|黎盛榮

一夜間，從爆火到眾多質疑、甚至厭惡，互聯網圈已經很久沒出現這個盛況了。

8月30日晚，一款主打視頻換臉功能的、名為“ZAO”的APP“點燃”社交網絡。其操作十分簡單，用户只需上傳一張照片，用AI換臉功能，就可將照片上的臉“換”到張柏芝、王祖賢等各大明星的身上，然後分享朋友圈，甚至“可以和自己的偶像同框”。

經過一夜發酵，到8月31日早上9點過，#Zao AI 換臉# 話題快速登上微博熱搜榜第7位，iOS商店內的App下載量也在當日下午超越愛奇藝、騰訊視頻兩大國民級應用，攀升至娛樂類第二位——ZAO服務器也因此數次崩潰。

不過，伴隨刷屏的，是業內外無數人士的質疑，甚至厭惡和反感——引起巨大爭議用户隱私保護條款背後，是我們的臉早就被濫用，甚至攻擊都一直存在。

 

ZAO或將步前輩短命後塵

圖片來自網絡

其實，因攻陷用户朋友圈及多個社交媒體平台而一夜爆火的ZAO，並不是第一個搭載“換臉”技術的平台。

早在今年5月，Snapchat就已經推出了一款“變性濾鏡”，這讓它一度爬升至總榜第三位。但隨着用户新鮮感的喪失，現在Snapchat已跌至總榜1000名之外。

無獨有偶，今年7月，俄羅斯的AI換臉產品FaceApp曾一度位居App Store總榜第2名、攝影與錄像榜第1名。它複製了Snapchat的崛起之路，不僅能將人臉進行轉化，還能在此基礎上實現男性變女性、哭臉變笑臉、老年變青年等更為複雜的操作。可惜的是，FaceApp的火熱並沒有因此得到延續，截至目前，FaceApp在App Store總榜排名已跌至600名開外。

就拿以上兩個案例來説，“AI換臉”技術雖然為平台帶來了流量，但都好景不長。

目前來看，當紅的ZAO正在進行引流工作，那麼它能不能將這流量轉換為實打實的長久用户？

圍繞“AI換臉”技術，ZAO目前只有視頻換臉、視頻分享朋友圈及表情製作三大功能。很顯然，如Snapchat和FaceApp一樣，這些簡易功能通常難以讓用户的熱情持續下去。

而根據其設置，用户直接上傳照片就可以將平台上多個知名影視劇片段中原來人物的臉替換成照片人物的臉，毫無疑問，對用户來説極大的降低了使用門檻。但它對照片高清晰度的要求又帶來了新門檻：若是照片不符合平台要求則不能進行“換臉”操作，這必然會讓用户喪失一定的體驗感。

相較於內置功能是否能夠留住用户的不確定性，ZAO帶來的風險是現在就能看到的。

首先，ZAO用户協議中包含的多項條款都有着巨大的法律風險。而使用ZAO換臉功能後（必須同意用户協議後才能使用），ZAO不光藉此免費獲得了上傳資料中所包含肖像信息的使用權和轉授權，還將侵權的風險轉嫁給了用户。

ZAO用户協議中的多個條款備受爭議

知名法律博主“法山叔”表示，ZAO涉嫌過度攫取用户授權，讓用户在無形中將自己的肖像權拱手讓人，“以後你的臉將完全有可能被別人隨意使用，變換”。

其次，ZAO上有大量國內外影視綜藝內容片段，還能支持用户自主上傳素材，這些海量素材也帶來了版權隱患。

知名IT與知識產權律師趙佔領分析認為，ZAO上的視頻素材和表情素材的來源主要是兩種：一是與權利人進行合作，獲得權利人對於素材的版權及其中包含的肖像的權利人的授權；二是由用户上傳，通過用户協議約定用户將上傳的素材以及修改後的素材的版權中的修改權、信息網絡傳播權等權利以及轉授權授予平台。

他表示，“其中第一種來源有效解決了ZAO的商業模式的合規問題，但是畢竟獲取授權是有代價的，限制了平台所獲取的素材的種類和數量，而第二種方式通過從用户處獲得授權，大大降低了平台獲取內容的成本，豐富了平台上的素材，有助於滿足更多用户的需求。”

總的來説，雖然目前ZAO是一個免費應用，但不論是從用户體驗角度，還是出於使用風險考慮，ZAO都不會是用户長久使用的必選項。

 

繞過人臉識別並不難？

值得關注的是，無論ZAO是否一款短命火爆產品，其背後卻是一個嚴重問題：我的臉還好嗎?

央行科技司司長李偉上個月就曾表示，“人臉是非常敏感的個人信息，一旦泄露會帶來非常大的影響。”

相較指紋等其他生物特徵，人臉識別最大不同就在於，它能無需接觸，就遠距離發生作用——這意味着，相關機構和個人可能未經當事人同意、甚至完全不知情的情況下讀取並蒐集其數據，進而非法使用。

2011年，谷歌母公司Alphabet董事長埃裏克·施密特説，人臉識別“很可怕”，並承諾谷歌公司不會建立用户照片的數據庫；去年7月，科技巨頭微軟總裁史密斯（ Brad Smith）發表官方博文，談到了人臉識別給社會帶來的複雜影響。他表示，人臉識別進入了一個關鍵性時刻，這種技術可能被濫用，給社會帶來不良影響，美國國會應該討論立法，對人臉識別進行監管。

據國外媒體披露，亞馬遜公司將人臉識別技術和服務銷售給了美國警方，這一做法引起亞馬遜部分員工抗議，要求拒絕將人臉識別技術提供給警方。微軟也遭遇了類似的爭議，被指和美國移民海關執法局簽署合同，提供了人臉識別技術。

更擔心的是非法利用——這種擔心並非杞人憂天。實際上，利用Deepfake造假技術，艾瑪·沃森等一眾歐美女明星，此前就被“換臉”在了不可描述的小電影上，一時轟動全網。

 ZAO也是如此。有用户擔心，ZAO採集了用户面部信息，同時也在註冊時獲得了自己的手機號，是否會有可能被不法分子用於支付寶、網上銀行等APP的實名認證，從而危及自己的金融財產安全。

一位反欺詐領域專家認為，只要不法分子掌握了人臉照片，通過將靜態的照片進行動態化處理，再繞過人臉識別環節並不難。

一位國有大行網絡金融部負責人也表示，其團隊今年年初找權威機構做過人臉識別相關的檢測，活體檢測、視頻攻擊等方面存在一定風險，雖然後台算法升級會使防控效果有一定提升，類似換臉的攻擊威脅還是會一直存在。

不過，上述人士也強調，人們也沒有必要太過擔憂，因為“目前在手機銀行應用人臉識別是作為輔助認證，要輔以短信等其他認證工具。小額支付領域風險較小，強調便捷，在有相關賠付保障情況下采取人臉識別問題應該也不大。”

此外，螞蟻金服方面也回應稱，“目前，網上各類換臉軟件有很多，但不管換得有多逼真，都是無法突破刷臉支付的。”

據瞭解，“刷臉支付”採用的是3D人臉識別技術，在進行人臉識別前，也會通過軟硬件結合的方式進行檢測，來判斷採集到的人臉是否是照片、視頻或者軟件模擬生成的，能有效地避免各種人臉偽造帶來的身份冒用情況。

“AI換臉”已形成黑色產業鏈

有網友表示，ZAO這次之所以引起如此大的關注，是因為以往的換臉視頻，對技術有着比較高的門檻要求，而ZAO一下子把門檻降到了最低，普通手機用户都可以玩了。

其實，這背後還有一個難以否認的事實是——目前，“AI換臉”已經形成一個非法牟利的地下黑色產業鏈。

此前新京報就有報道稱，互聯網上大量出現通過“AI換臉”實現的由知名女藝人“主演”的不雅視頻，在百度貼吧、閒魚等主要網絡平台均有出售。

有的商家不僅提供成品的視頻，還接受買家的訂製，只要買家提供20張照片，就可以製作出任何人的“小電影”。還有的商家“授人以漁”，售賣教學視頻供人學習，出示學生證還能打七折。

而據“智東西”此前報道，目前AI換臉黑產已經形成了完整的產業鏈，從下游成品情色視頻、中游定製視頻到上游軟件及教程都有提供，有的賣家甚至提供全產業鏈產品和售後服務。

根據鋅刻度記者最新瞭解的情況來看，這種情況並未得到好轉。比如，在瀏覽器搜索“換臉教程”，有多個教程詳述製作細節，足夠教會用户如何使用“換臉”技術；在淘寶、鹹魚等平台搜索“換臉”，大部分商家顯示可售賣成品照片及提供定製服務，部分商家還售賣軟件和教程；至於在deepfake吧裏，則可以找到明顯帶着暗示性字眼的資源帖。

換頭換臉成本不高

這些不法商家之所以如此明目張膽，與早前監管的缺失不無關係。值得慶幸的是，相關監管部門已經注意到了“AI換臉”技術帶來的危害性。

今年4月，民法典人格權編草案和物權編草案的二審稿新增了這樣一條規定：任何組織或者個人，不得以利用信息技術手段偽造的方式侵害他人的肖像權。

國家網信辦會同有關部門在5月底發佈的《數據安全管理辦法（徵求意見稿）》中也提到，“網絡運營者利用大數據、人工智能等技術自動合成新聞、博文、帖子、評論等信息，應以明顯方式標明"合成"字樣；不得以謀取利益或損害他人利益為目的自動合成信息。”

但由於人工智能技術所具有的高度的不確定性、創新性和複雜性，面對千變萬化的應用場景，目前想要所有亂象得到根治也絕非易事。

畢竟技術本無罪，全看使用技術的人想拿它做什麼。目前來看，**更重要的是相關AI企業應該堅守自身底線。**著名學者吳伯凡就認為，科技本身是不能向善的，應該是讓科技向善，人在使用技術的時候一定要有初心，讓科技向善。“之前的技術沒有自主性和主動權，比如火、核能都不能自主做事，但人工智能是有自我學習能力的，是非常特殊的，就一定要解決向善的問題。”