AI換臉:人工智能的一場裸奔_風聞
夙兴夜寐刘沫沫-2019-09-02 13:49
來源:微信公眾號“中國新聞週刊”
AI換臉在技術上是成熟的,但它帶來一系列法律、倫理問題
這兩天,微信朋友圈和微博都被一個名為“Zao-逢聯造戲”的換臉APP刷屏。
上傳一張照片,就能把諸多明星塑造的角色換成自己的臉,漫威系列的“緋紅女巫”,《泰坦尼克號》中小李子扮演的“傑克”,或是《喜劇之王》裏的“柳飄飄”。
只需幾秒,便可跨越AI換臉的高難技術門檻,實現和偶像互動飆戲的美夢,如APP宣傳語所説,“只需一張照片,出演天下好戲”,很難不讓人心動。截至9月1日晚,該APP已經在蘋果商店免費榜排行第一。
有法律專業人士提出,該產品涉及侵犯著作權、肖像權、隱私權等諸多法律問題,有用户表示“自己莫名成了權利侵犯者或受害人,不知道註銷(賬號)後是否能保護自己的肖像權”。但也有網友不懼隱患,直言“只要能和偶像同框,不怕風險”。
中國“Zao”
引發這場討論的根源是Zao隱藏在用户協議中的霸王條款,一方面過度攫取用户授權,另一方面涉嫌侵犯肖像權,並甩鍋給用户。
在最初的用户協議中,第6條第1款規定:“在您上傳及/或發佈用户內容以前,您同意或者確保實際權利人同意授予Zao及其關聯公司以及Zao用户全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利,包括但不限於可以對用户內容進行全部或部分的修改與編輯。”
也就是説,用户同意將自己的肖像授權給Zao,即便有一天肖像被再次轉賣也無能為力。
同時,協議第7條第7款寫明:“若您侵害他人名譽權、肖像權、知識產權等合法權利的…Zao可以訴諸行政執法機構或司法機關,追究相應法律責任。若因您違反本協議或Zao平台的其他規則導致任何第三方損害的,您應當獨立承擔法律責任並承擔損害賠償責任;Zao及其關聯公司遭受損失的,您也應當一併賠償。”
翻譯過來就是,如果有人起訴被侵犯了肖像權,Zao可以説技術無罪,侵權的是玩換臉遊戲的用户。
這讓上一秒還在感嘆“科技改變生活”的網友坐不住了,Zao也馬上對協議作出了修改,新版用户協議中刪除了“不可撤銷”“完全免費”“永久”等字樣,但問題仍未解決。
**“我一直認為‘AI換臉’隱藏了不可迴避的法律問題,所以看到Zao出現後,很好奇他們是如何解決的,很遺憾,他們並沒有解決。”**北京煒衡律師事務所一級合夥人、律師李昆蔚對《中國新聞週刊》説,協議修改後,侵犯著作權、公眾人物肖像權的問題仍沒有解決,同時,用户在註銷賬號後,動態和靜態肖像是否可以刪除,為什麼區別對待公眾人物肖像和普通人的肖像,“這些問題需要Zao來回答,也是我發問的初衷,目前還沒有收到Zao法務的回覆。”李昆蔚説。
Zao背後的註冊公司是“長沙深度融合網絡科技有限公司”,兩位實際控股人(各佔50%)與社交應用“陌陌”密不可分,執行董事雷小亮是陌陌公司聯合創始人兼遊戲業務部總裁,監事王力是陌陌公司董事、總裁及COO,而“北京陌陌科技有限公司”曾在2017年9月參股,直至今年7月19日才退出股東名單。據天眼查顯示,長沙深度融合預留的聯繫電話屬於陌陌科技,截至發稿,該公司並未對用户協議問題作出回覆。
**換臉技術本身並不新奇,在美國好萊塢已經存在了20多年。**2016年上映的《星球大戰外傳:俠盜一號》還原了《星球大戰4》(1977年)中總督塔金的角色,但其扮演者彼得·庫欣早在22年前就去世了,特效團隊為此找來一位長相酷似彼得的演員進行面部表情捕捉,然後用計算機動畫(CG)技術將塔金復活。不過盧克斯影業和迪士尼表示,在製作《星球大戰外傳》時已經取得了彼得家人和產權繼承人的同意。
將“換臉”推到風口浪尖的是一系列融合了AI技術的“假視頻”。
2017年12月,一個名為“深度偽造”(deepfakes)的用户在美國論壇Reddit上發佈了多段色情視頻,不同的是,他讓電腦學習好萊塢女明星的圖像資料,然後把女明星的面部移植到色情片女主角臉上,近乎完美地實現了動態換臉,這引發了大量討論和抨擊,最後以賬號被封告終。
不過,AI換臉並未消失,用户“深度偽造”隨後直接開源了項目代碼,更多效仿者隨之而來,為了紀念他,便用他的名字代稱“AI換臉”技術。據説,Zao也是基於“深度偽造”開源代碼開發出來的,但Zao並不是第一個。
從“換臉”到“深裸”
2018年1月,一個名為FakeApp的軟件上線,可實現“一鍵換臉”,視頻內容也是千奇百怪,包括惡搞美國總統特朗普,或是將自己的臉貼到好萊塢明星上。雖然Reddit明令禁止換臉視頻和圖片在該網站傳播,但仍有超過9萬名用户在Reddit上傳播這類視頻。
今年6月13日,美國眾議院情報委員會召開關於人工智能深度偽造的聽證會,公開談論了深度偽造技術對國家、社會和個人的風險及防範和應對措施。美國外交政策研究所研究員克林特·瓦茨認為,深度偽造技術對美國2020大選具有潛在威脅——若放任偽造視頻擴散,則會對美國民主選舉產生不良影響,挫傷選民的積極性。
就在聽證會結束後不久,一款名為DeepNude(深裸)的App宣稱能實現“一鍵脱衣”,它再次把AI技術應用中的法律倫理問題推到台前。操作十分簡單,只要給它一張人像照片,等待30秒,就能得到一張裸照。由於風險超出可控範圍,研發團隊在產品上線幾天後便匆忙下架了該產品。
“我們啓動這個項目是出於娛樂的目的……從沒想過它會像病毒一樣擴散。我們不希望通過這種方式掙錢……從現在開始,不再放出任何版本,也不會授權任何人使用。” DeepNude團隊6月27日公開聲明道。
教育科技公司Coursera聯合創始人、美國斯坦福大學計算機科學教授、“百度大腦”原負責人吳恩達也在推特上公開批判,稱“DeepNude是AI技術最糟糕的應用之一”,AI技術的超級力量應該被用到推動世界發展的項目中。
“AI換臉技術是成熟的,之所以沒有被推廣,就是因為還有很多法律、倫理問題沒有討論清楚。”李昆蔚對《中國新聞週刊》説,“Zao現在的盈利方式還不清楚,但要是為了賺錢,去做一些鑽法律空子的事情,從而傷害了廣大用户,是行不通的。”
除了侵權問題,還有網友擔心,既然人臉識別已經在支付場景得到應用,面部信息泄露,是否會導致賬户被盜刷?對此,支付寶安全中心8月31日發佈公告:**“不管換臉軟件多逼真,都無法突破刷臉支付。”**支付寶安全中心表示,刷臉支付採用的是3D人臉識別技術,在進行人臉識別前,也會通過軟硬件結合的方式進行檢測,來判斷採集到的人臉是否是照片、視頻或者軟件模擬生成的,能有效地避免各種人臉偽造帶來的身份冒用情況。
瑞士科學家在一篇論文中就首次對人臉識別方法檢測Deepfake的效果進行了較為全面的測評,嘗試用最前沿的人臉識別系統去識別假視頻,結果錯誤率高達95%。
《人民法院報》官網微博評論道:“試用任何一款新型軟件的時候一定要認真閲讀用户協議,多留個心眼,保護好自己的各項權益。”
“我不知道我們能否為此做好充分準備,但是我們還可以做更多的工作,確定敵人的計劃和意圖,儘早找出並揭露它,告知公眾他們需要關注什麼,應當做什麼,而不僅僅忽略他們所看到的一切。”美國眾議院情報委員會聽證會主席亞當·希夫表示。
雖然沒有一招制勝的方法,但阻止深度偽造負面影響蔓延的方法有很多,誠如馬里蘭大學法學教授丹尼爾·希特龍在上述聽證會上總結的,對深度偽造的內容不能一竿子打死,很多深度偽造的合成媒體內容具有存在的正當性,而對影響國家安全、公共安全、民主政治的虛假信息才需要加強監管和規制。涉及刑事犯罪和一般網絡侵權的深度偽造適用不同的規制,監管應區別對待,美國相關立法目前主要從刑事犯罪角度對深度偽造予以規制。