名人“畫皮”、換臉惡搞、色情合成...AI視頻換臉技術濫用調查_風聞

隨着AI技術發展，視頻換臉技術門檻降低，普通人也能製作換臉視頻。記者調查發現，這項技術被用於惡搞視頻、色情視頻合成上，其不良效應也引發了社會的關注和擔憂：放任自流，任其“異化”，可能成為侵害他人合法權益和危害社會公共安全的工具。

“你要的樣子我都有”，AI“畫皮”只需2.5元“你要的樣子我都有”“男人瞬間變女人,毫無違和感”“用朋友圈視頻就可換臉”……近日，AI換臉視頻在不少平台上風靡。記者在嗶哩嗶哩網站搜索“換臉”，出來的視頻達千條。其中，有網友將影視劇中不同演員的臉進行互換；有人將某平台女主播瞬間“變臉”成不同女明星的樣貌；還有人則製造“假新聞”，把國外電視節目嘉賓的臉換成國內公眾人物的，標題則為國內某某在國外接受採訪……

視頻中的人物被換臉後，幾乎可以“以假亂真”，有網友評論其為“AI畫皮”“有圖未必有真相”“細思極恐”。

在“deepfake”的貼吧裏，與AI換臉有關的帖子超過9000條。裏面有大量明星換臉視頻的售賣信息。一個名為“合成聯盟”的用户在羣裏公開售賣換臉色情視頻，清單裏的數量達150多部，並稱“白菜價全部只要58元”。在名為“明星論壇”的論壇上，有人貼出了多個換臉視頻色情網站網址。

記者在淘寶網上搜索“AI換臉”“deepfake”等，出現了不少換臉軟件售賣信息，包括“商業背書視頻”“明星偶像互動視頻”“惡搞視頻”，並號稱“動作逼真清晰”。有的還提供換臉視頻製作服務，一個淘寶ID為“專業定製換臉視頻”的賣家表示，可以代為製作換臉視頻，三分鐘以內的價格為300元。記者在某二手交易平台上以2.5元的價格購買了一款名為“fakeapp”的換臉軟件，根據教程，導入提供的視頻素材，只需要按“提取”和“合成”鍵等，就可以將視頻素材中的人臉進行互換，幾乎看不出痕跡。

擅自換臉“一時爽”，或致違法侵權“AI換臉技術原理並不複雜，AI將多個視頻內的人臉特徵自動提取並進行分類，再利用編碼技術，對視頻中的特定位置編碼重構合成等即可。”長期從事影視換臉業務的北京聚力維度科技公司首席技術官趙天奇介紹。

“以前，相關製作費用每分鐘可達上百萬元。隨着一些AI技術的開源，換臉製作不僅價格大幅下降，門檻也不斷降低。”他説。

中國傳媒大學政治與法律學院副院長王四新説：“目前，通過AI技術深度偽造他人的肖像、聲音主要用於網絡‘惡搞’，但仿真效果已逼近真偽難辨的邊界，隨着技術發展，結合短視頻形態的快速傳播，如果使用不當，會產生很強的負面作用。”近期，民法典人格權編草案二審稿對此作出規定，任何組織或者個人不得以醜化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。其他人格權的許可使用和自然人聲音的保護，參照適用有關規定。

“如果正式通過，這意味着除法律另有規定的情況外，如果用他人肖像進行AI換臉等，只要未經本人同意，即便沒有營利目的和主觀惡意，同樣有可能構成侵權。”北京大學法學院副院長薛軍説。他還提醒，侵權者不要抱有僥倖心理，即使換臉後不是100%相似，只要換臉視頻和原視頻能達到一定相似度，經由第三方能夠識別，就可能被認作是侵權，“如將他人的臉與色情視頻中人物的臉替換，並進行傳播，則涉嫌構成傳播淫穢物品罪，需承擔相應刑事責任”。AI換臉“雙刃劍” 不能放任自流

“AI換臉技術在影視製作行業有一定的需求。有的演員在電影拍攝完成前去世了，依靠換臉技術就能在熒幕上‘復活’。”趙天奇説，AI換臉可以實現演員不在場拍攝，提升了拍攝效率，極大節省了經費。但是，有關專家表示，應當保證新技術被正當使用，不能放任自流，任其“異化”，成為侵害他人合法權益和危害社會公共安全的工具。——使用者需秉承善意使用原則。技術是中性的，但使用有正反兩面效應，需要避免對新技術的濫用。“使用者需要自律，讓工具能夠在合理合法的用途和目的上使用，需要對法律常識和公序良俗有底線意識。”薛軍説。

——平台不能只躲在“避風港”裏。國內某大型短視頻應用相關負責人告訴記者，換臉視頻在審核上常常隱蔽性較強，除了涉恐、涉黃等明顯違法視頻外，比如一般的惡搞視頻，由於平台並非是被侵權主體，缺乏主動作為的動力。只能是事後用户舉報後，再作處理。

王四新認為，平台應完善事前處置機制，加強對違規換臉視頻的自動研判與編審，嚴控問題視頻的分發，“平台如果明知視頻違法違規而不採取措施，繼續對他人和社會造成損害，平台也需承擔連帶責任”。——監管要重拳出擊。王四新建議，監管部門對於違法侵權視頻，要重點關注和監測，對可能造成惡劣社會影響、危害國家安全和社會公共利益的換臉視頻，要嚴格監管，對違法侵權行為重拳出擊。

來源：新華社