刷屏的“換臉”,有什麼風險?_風聞
观察者网用户_240527-2019-09-01 16:16
一夜之間,人們彷彿被“克隆人”佔領:一款主打視頻換臉功能的應用軟件“ZAO”刷屏了。
這個功能並不新鮮,但會成為現象,恰恰在於“ZAO”的功能極簡、難度極低,人人皆可快速上手,又可利用社交網站病毒式傳播。
據悉,“ZAO”應用由陌陌科技旗下的“孫公司”長沙深度融合網絡科技有限公司開發。另有消息稱,“VC已經在排着隊約見團隊要投資了。一堆仿的APP也已經連夜在提交審核,很快就可以上線。”
該應用在iOS商店裏排在前列的評論
但也正因為太過火爆,它引發了很多爭議。
01
你看過它的“用户協議”嗎?
👆“ZAO”用户協議(部分)
很多用户並沒有仔細去看“ZAO”這份非常有中國互聯網特色的“用户協議”——從協議中可以發現:
6.1的授權充斥着“完全免費”“不可撤銷”“永久”“可轉授權”等字眼,這意味着它可將你的肖像和資料,任意授權給自己想授權的第三方,並且可修改;
還有第6.2項,“如果您把用户內容中的人臉換成您或其他人的臉,**您同意或確保肖像權利人同意授予‘ZAO’及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利,**包括但不限於:人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權利人的肖像權,以及利用技術對您或肖像權利人的肖像進行形式改動。”
這意味着將明星肖像權問題甩給了用户。
第7項則是在説:一旦有糾紛產生,技術無罪,要用户來承擔。
……
換臉視頻會侵犯肖像權、著作權、影視改編權等,還待法律意義上的釐清。
部分用户意識到了隱私問題。
如果不經提醒,很多人都沒有查看這些協議的習慣。
百度CEO李彥宏之前就説過:**“中國人對隱私不敏感,願意用隱私交換便捷性”。**他只是説出來了,更多的人是默默地幹着。
看得出來,“ZAO”在功能設置考慮過一些安全問題,比如需要人臉安全認證;上傳照片不支持低像素和下載的照片;拍照方式上傳,僅支持前置攝像頭,並且會識別公眾人物。未認證過的人臉生成的視頻無法分享,並且在視頻上面會有動態水印。
但這些限制,通過錄屏等第三方軟件,不難繞過去一些。
更重要的是,包括面部識別在內的重要隱私數據和權利讓渡出去,一旦泄露,就極易被用於違法行為。
央行科技司司長李偉在一個論壇上表示,“人臉是非常敏感的個人信息,一旦泄露或被盜取,會帶來非常大的影響……有技術也不能濫用,有技術也不能任性。****”
大數據專業人士也提醒存在的風險:👇
對換臉技術表示擔憂的聲音。
8月31日午間,支付寶回應稱,目前換臉技術無法突破刷臉支付。雖然如此,將自己的面部識別信息交出去,還是留下了巨大的安全隱患。
在“ZAO”之前,已經有不少類似的軟件存在,但多數還屬小眾。不妨把它的火爆,視作一種提醒:
**這種技術離我們如此之近,未來某天,如果發現自己出現在某條色情視頻中、**被人指控從事詐騙,或者聽説有人替你和親朋好友通過話,你都不要太過驚訝……
話題的討論讓人們注意到同類技術中的安全問題
02
擋不住的技術
其實,恰恰因為AI換臉是一項很好用的技術,門檻很低,很容易上手,才會帶來這麼劇烈的衝擊。
早在2017年12月,一個ID名為“deepfakes”的Reddit用户首次將自己製作的AI換臉視頻發在網上,其中包括將情色電影裏的女主角換成蓋爾·加朵等好萊塢明星。

情色片女主角的臉被換成蓋爾·加朵
這讓人們第一次見識到AI換臉的強大,也引來眾多受害者的投訴。
“deepfakes”賬號因此被封殺後,直接開源了其AI換臉項目的代碼,此後,這項技術就被命名為“deepfakes”。
它後來的發展也呈星火燎原之勢,門檻越來越低。

AI換臉在國內火起來,是年初一段94版“射鵰”視頻。飾演黃蓉的朱茵的臉被替換成楊冪。
因為是機器學習,“deepfakes”的技術進化極快。比如下面這段換臉畫面,是將節目嘉賓比爾·哈德的臉和湯姆·克魯斯的臉來回切換:視頻連接請戳https://mp.weixin.qq.com/s/6eSsj3IUfX2EPH9Ba3xk9w
👆兩位演員臉部切換頻繁而順滑,極難發現瑕疵
《經濟學人》的一篇文章裏指出:“毫無疑問,換臉技術出現後,製作假視頻的門檻已經大大降低了。以前,只有專業人士才能做出來;而現在,只要能連上網,手頭有幾張照片,人人都可以做。”
**生成式對抗網絡(GAN)讓假視頻變得更真。**這是一種機器學習技術,一個系統不斷生成虛假的圖像,另一個系統不斷識別圖像的破綻。兩個系統相互博弈,最終制作出統計學意義上完美的虛擬圖像。
現在的假視頻,早就不是把幾張現成圖片粗製濫造地混在一起。深度學習的軟件可以在分析現有圖片後,做出一張完全不依賴它們的新圖。
的確,技術本身是無辜的,它可以被用於很多正面的用途,比如像《速度與激情7》,因為主演保羅·沃克遭遇車禍,就是靠換臉技術完成了他餘下的戲份。
但利用它來作惡的,也已形成了完整的產業鏈。
03
情色片早就盯上這個技術
下面的動圖截自早前一些使用 AI 換臉技術製作的情色片。現在的技術已經更為強大。
“艾瑪·沃森”

“娜塔麗·波特曼”

“斯嘉麗·約翰遜”

今年初,斯嘉麗·約翰遜就在多個場合,炮轟這種假色情片行為。她説:
“互聯網是一個巨大黑暗的蟲洞。我沒法阻止一個陌生人把我的照片拼接到另一個人的身體上。這件事對我個人造成的影響不大,因為大家都知道那不是我。****但是我希望,女性和小孩們今後在網上能夠倍加小心。****因為很快就會有普通人被盯上。”
事實上,針對普通人的假色情片製作已經形成了一個灰色產業。
在國內很多網絡交易平台上,100元就可打包200部換臉情色片,囊括國內一二線女明星;定製換臉視頻,低於1小時只需100元,可為你製作自己同事、同學或朋友的假色情片。
“ZAO”的app宣傳頁上寫着“僅需一張照片”。假色情片製作同樣只需要照片而已——而你的這些個人照片,網上可能很容易找到,對吧?
有一天,如果你中招出現在某個不可描述的畫面裏時,連嫌疑人都很難鎖定。
換臉視頻的受害者幾乎沒有反擊的工具。美國法律專家表示,換臉視頻往往難以追蹤,無法調查,而且存在一個法律灰色地帶:它們建立在公開照片的基礎上,實際上是新的創作,這意味着它們可以作為言論自由受到保護。
幾個月前,有個ID為“阿爾貝託”(Alberto)的程序員開發了一款名叫DeepNude的應用:只需要上傳一張女性照片,該應用就能自動移除女性身上的衣服並“填補”出裸體。
這種“一鍵脱衣”使用的是和AI換臉類似的算法。後來,迫於全網壓力,DeepNude宣佈下線。
但就像開發者辯解所説,“技術已經發展到這一步了,如果我不這樣做,別人也會在一年內做出來。”
技術本身是擋不住的,所以更需要人們來予以約束。
谷歌公司在這個問題上的態度也很有代表性。他們説自己很重視道德責任,但認為如果對新技術嚴加限制,可能會讓延緩開發出一些對人類有益的用途。
計算機科學家法裏德認為這是一種狡辯:“你能想象一個生物學家對人們説:‘嘿,這有一種非常酷的病毒,我們看看如果人人都能感染它會怎麼樣’嗎?”
法裏德説:“這項技術太不成熟了,科技公司必須放慢推廣它的步伐。”
04
它會摧毀我們對外界的信任嗎?
“ZAO”在圖片上傳時,對公眾人物的照片進行了攔截。有用户疑問説:“它如何充分定義和識別公眾人物呢?”
這種攔截,是因為公眾人物的換臉視頻危害更大,特別是利用他們來發表一些觀點。奧巴馬、特朗普,都曾是此類視頻受害者。
今年6月初,一則以Facebook總裁扎克伯格為素材的換臉視頻在Instagram上傳播開來。在視頻裏,假的扎克伯格説:“試想一下,一個人擁有幾十億人的數據,他知道這些人的秘密、他們的生活,甚至他們的未來。而這些數據全是偷來的。”
👆扎克伯格的“受害”視頻,以及AI如何幹擾美國政壇。
它以扎克伯格的名義諷刺了他自己。
此前,扎克伯格一直對Facebook上的假視頻態度曖昧,強調不應該由平台來判斷什麼是真假。
到6月底,扎克伯格宣佈,Facebook已經在制定新的換臉視頻監管政策,來預防它們造成惡劣影響,並且表示:在未來,Facebook可能會完全禁止換臉視頻。
而與此同時,“語音克隆”也取得了突破,現在,只需提供幾秒鐘的語音樣本,就可以模擬出非常相似的人聲。百度,谷歌、Adobe等公司都在開發相似的項目。
視頻加上聲音,恐怕你自己來鑑別都會有難度。
“人在家中坐,禍從天上來。”未來不要感覺太奇怪。
當這種換臉視頻的泛濫,耗盡人們去核查辨別的耐心之後,這種新技術很可能會摧毀公民社會里的相互信任。
你如何看待換臉AI?