刷屏的“換臉”，有什麼風險？_風聞

一夜之間，人們彷彿被“克隆人”佔領：一款主打視頻換臉功能的應用軟件“ZAO”刷屏了。

這個功能並不新鮮，但會成為現象，恰恰在於“ZAO”的功能極簡、難度極低，人人皆可快速上手，又可利用社交網站病毒式傳播。

據悉，“ZAO”應用由陌陌科技旗下的“孫公司”長沙深度融合網絡科技有限公司開發。另有消息稱，“VC已經在排着隊約見團隊要投資了。一堆仿的APP也已經連夜在提交審核，很快就可以上線。”

該應用在iOS商店裏排在前列的評論

但也正因為太過火爆，它引發了很多爭議。

01

你看過它的“用户協議”嗎？

👆“ZAO”用户協議（部分）

很多用户並沒有仔細去看“ZAO”這份非常有中國互聯網特色的“用户協議”——從協議中可以發現：

6.1的授權充斥着“完全免費”“不可撤銷”“永久”“可轉授權”等字眼，這意味着它可將你的肖像和資料，任意授權給自己想授權的第三方，並且可修改；

還有第6.2項，“如果您把用户內容中的人臉換成您或其他人的臉，**您同意或確保肖像權利人同意授予‘ZAO’及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利，**包括但不限於：人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權利人的肖像權，以及利用技術對您或肖像權利人的肖像進行形式改動。”

這意味着將明星肖像權問題甩給了用户。

第7項則是在説：一旦有糾紛產生，技術無罪，要用户來承擔。

……

換臉視頻會侵犯肖像權、著作權、影視改編權等，還待法律意義上的釐清。

部分用户意識到了隱私問題。

如果不經提醒，很多人都沒有查看這些協議的習慣。

百度CEO李彥宏之前就説過：**“中國人對隱私不敏感，願意用隱私交換便捷性”。**他只是説出來了，更多的人是默默地幹着。

看得出來，“ZAO”在功能設置考慮過一些安全問題，比如需要人臉安全認證；上傳照片不支持低像素和下載的照片；拍照方式上傳，僅支持前置攝像頭，並且會識別公眾人物。未認證過的人臉生成的視頻無法分享，並且在視頻上面會有動態水印。

但這些限制，通過錄屏等第三方軟件，不難繞過去一些。

更重要的是，包括面部識別在內的重要隱私數據和權利讓渡出去，一旦泄露，就極易被用於違法行為。

央行科技司司長李偉在一個論壇上表示，“人臉是非常敏感的個人信息，一旦泄露或被盜取，會帶來非常大的影響……有技術也不能濫用，有技術也不能任性。****”

大數據專業人士也提醒存在的風險：👇

對換臉技術表示擔憂的聲音。

8月31日午間，支付寶回應稱，目前換臉技術無法突破刷臉支付。雖然如此，將自己的面部識別信息交出去，還是留下了巨大的安全隱患。

在“ZAO”之前，已經有不少類似的軟件存在，但多數還屬小眾。不妨把它的火爆，視作一種提醒：

**這種技術離我們如此之近，未來某天，如果發現自己出現在某條色情視頻中、**被人指控從事詐騙，或者聽説有人替你和親朋好友通過話，你都不要太過驚訝……

話題的討論讓人們注意到同類技術中的安全問題

​

02

擋不住的技術

其實，恰恰因為AI換臉是一項很好用的技術，門檻很低，很容易上手，才會帶來這麼劇烈的衝擊。

早在2017年12月，一個ID名為“deepfakes”的Reddit用户首次將自己製作的AI換臉視頻發在網上，其中包括將情色電影裏的女主角換成蓋爾·加朵等好萊塢明星。

情色片女主角的臉被換成蓋爾·加朵

這讓人們第一次見識到AI換臉的強大，也引來眾多受害者的投訴。

“deepfakes”賬號因此被封殺後，直接開源了其AI換臉項目的代碼，此後，這項技術就被命名為“deepfakes”。

它後來的發展也呈星火燎原之勢，門檻越來越低。

AI換臉在國內火起來，是年初一段94版“射鵰”視頻。飾演黃蓉的朱茵的臉被替換成楊冪。

因為是機器學習，“deepfakes”的技術進化極快。比如下面這段換臉畫面，是將節目嘉賓比爾·哈德的臉和湯姆·克魯斯的臉來回切換：視頻連接請戳https://mp.weixin.qq.com/s/6eSsj3IUfX2EPH9Ba3xk9w

👆兩位演員臉部切換頻繁而順滑，極難發現瑕疵

《經濟學人》的一篇文章裏指出：“毫無疑問，換臉技術出現後，製作假視頻的門檻已經大大降低了。以前，只有專業人士才能做出來；而現在，只要能連上網，手頭有幾張照片，人人都可以做。”

**生成式對抗網絡（GAN）讓假視頻變得更真。**這是一種機器學習技術，一個系統不斷生成虛假的圖像，另一個系統不斷識別圖像的破綻。兩個系統相互博弈，最終制作出統計學意義上完美的虛擬圖像。

現在的假視頻，早就不是把幾張現成圖片粗製濫造地混在一起。深度學習的軟件可以在分析現有圖片後，做出一張完全不依賴它們的新圖。

的確，技術本身是無辜的，它可以被用於很多正面的用途，比如像《速度與激情7》，因為主演保羅·沃克遭遇車禍，就是靠換臉技術完成了他餘下的戲份。

但利用它來作惡的，也已形成了完整的產業鏈。

03

情色片早就盯上這個技術

下面的動圖截自早前一些使用 AI 換臉技術製作的情色片。現在的技術已經更為強大。

“艾瑪·沃森”

“娜塔麗·波特曼”

“斯嘉麗·約翰遜”

今年初，斯嘉麗·約翰遜就在多個場合，炮轟這種假色情片行為。她説：

“互聯網是一個巨大黑暗的蟲洞。我沒法阻止一個陌生人把我的照片拼接到另一個人的身體上。這件事對我個人造成的影響不大，因為大家都知道那不是我。****但是我希望，女性和小孩們今後在網上能夠倍加小心。****因為很快就會有普通人被盯上。”

事實上，針對普通人的假色情片製作已經形成了一個灰色產業。

在國內很多網絡交易平台上，100元就可打包200部換臉情色片，囊括國內一二線女明星；定製換臉視頻，低於1小時只需100元，可為你製作自己同事、同學或朋友的假色情片。

“ZAO”的app宣傳頁上寫着“僅需一張照片”。假色情片製作同樣只需要照片而已——而你的這些個人照片，網上可能很容易找到，對吧？

有一天，如果你中招出現在某個不可描述的畫面裏時，連嫌疑人都很難鎖定。

換臉視頻的受害者幾乎沒有反擊的工具。美國法律專家表示，換臉視頻往往難以追蹤，無法調查，而且存在一個法律灰色地帶：它們建立在公開照片的基礎上，實際上是新的創作，這意味着它們可以作為言論自由受到保護。

幾個月前，有個ID為“阿爾貝託”（Alberto）的程序員開發了一款名叫DeepNude的應用：只需要上傳一張女性照片，該應用就能自動移除女性身上的衣服並“填補”出裸體。

這種“一鍵脱衣”使用的是和AI換臉類似的算法。後來，迫於全網壓力，DeepNude宣佈下線。

但就像開發者辯解所説，“技術已經發展到這一步了，如果我不這樣做，別人也會在一年內做出來。”

技術本身是擋不住的，所以更需要人們來予以約束。

谷歌公司在這個問題上的態度也很有代表性。他們説自己很重視道德責任，但認為如果對新技術嚴加限制，可能會讓延緩開發出一些對人類有益的用途。

計算機科學家法裏德認為這是一種狡辯：“你能想象一個生物學家對人們説：‘嘿，這有一種非常酷的病毒，我們看看如果人人都能感染它會怎麼樣’嗎？”

法裏德説：“這項技術太不成熟了，科技公司必須放慢推廣它的步伐。”

04

它會摧毀我們對外界的信任嗎？

“ZAO”在圖片上傳時，對公眾人物的照片進行了攔截。有用户疑問説：“它如何充分定義和識別公眾人物呢？”

這種攔截，是因為公眾人物的換臉視頻危害更大，特別是利用他們來發表一些觀點。奧巴馬、特朗普，都曾是此類視頻受害者。

今年6月初，一則以Facebook總裁扎克伯格為素材的換臉視頻在Instagram上傳播開來。在視頻裏，假的扎克伯格説：“試想一下，一個人擁有幾十億人的數據，他知道這些人的秘密、他們的生活，甚至他們的未來。而這些數據全是偷來的。”

👆扎克伯格的“受害”視頻，以及AI如何幹擾美國政壇。

它以扎克伯格的名義諷刺了他自己。

此前，扎克伯格一直對Facebook上的假視頻態度曖昧，強調不應該由平台來判斷什麼是真假。

到6月底，扎克伯格宣佈，Facebook已經在制定新的換臉視頻監管政策，來預防它們造成惡劣影響，並且表示：在未來，Facebook可能會完全禁止換臉視頻。

而與此同時，“語音克隆”也取得了突破，現在，只需提供幾秒鐘的語音樣本，就可以模擬出非常相似的人聲。百度，谷歌、Adobe等公司都在開發相似的項目。

視頻加上聲音，恐怕你自己來鑑別都會有難度。

“人在家中坐，禍從天上來。”未來不要感覺太奇怪。

當這種換臉視頻的泛濫，耗盡人們去核查辨別的耐心之後，這種新技術很可能會摧毀公民社會里的相互信任。

你如何看待換臉AI？