AI換臉，語音合成，假明星賬號的詐騙套路_風聞

第2973期文化產業評論

以往是電話詐騙，現在從抖音到快手，從國內到國外，越來越多人依靠假扮名人的方式進行詐騙，一些人騙錢騙財還騙走了別人的感情，我們不禁要問，為什麼新時代的短視頻詐騙這麼難控難防？

​作者| 夏盼（文化產業評論作者）

編輯 | 張小俊

來源 | 文化產業評論

正文共計3388字 | 預計閲讀時間9分鐘

最近”靳東”假賬號詐騙中老年婦女的事情鬧得沸沸揚揚，大家也漸漸關注到了短視頻平台上這類集羣式詐騙賬號，他們假扮各類明星名人騙取粉絲錢財。

抖音上有假扮周潤發、劉德華、肖戰的：

QQ裏有各種“明星”QQ號：

微博上也有各種山寨版林更新、王思聰：

就連國外也是不安生，推特上就曾經出現過假普京、假川普、假奧巴馬：

其實就本質來説，這些賬號和此前經常在電視上出現的那些欺騙中老年觀眾的假藥假保健品廣告沒什麼本質區別。

但是此事曝光之後，短視頻平台上這些賬號並沒有明顯減少。而且就連國外平台上這類假扮名人詐騙的賬號都大有逍遙法外之勢。平台也並非不想管，而是此類違規賬號難發現、難監管，為什麼這些騙子能夠如此猖狂？

詐騙團伙：新時代下的“技術”升級

互聯網每一次技術革新不僅會帶來更豐富的娛樂體驗，也讓詐騙團伙有了更“高級”的詐騙空間，一些新技術被詐騙團伙用上後，平台短時間內很難做出準確的打擊動作。

AI換臉

初級一點的詐騙賬號可能只是用一張簡單的P圖照片來假扮明星本人，高級點的就截取明星日常生活中透露出來的一些短視頻片段來偽裝真人，再牛叉一點的可能就會使用到AI換臉技術了。

**某些假扮明星的短視頻賬號就是採用了AI換臉技術，讓視頻都能做到以假亂真的程度。**其實很多短視頻APP都有往換臉這一領域嘗試的趨勢，今年6月份外媒報道抖音可能在嘗試開發一款名為Face Swap的秘密功能，此功能允許用户將自己的臉換到明星身上。

雖然後續證明Face Swap只是一個公開的換臉工具，但越來越低的AI換臉門檻確實給詐騙團伙提供了很多便利，包括國內一度比較火爆的ZAO換臉工具，可以輕鬆的將視頻的臉換成其他人的。

語音合成

除了圖像上的高仿偽造之外，難防的還有語音合成造假，隨着語音合成技術的進展，現在想要合成一段近似於某位名人的語音並不困難。

文化產業評論（ID：whcypl）瞭解到，目前市面上可以免費進行名人語音合成的產品多如牛毛，很多產品都可以在線生成明星主播語音包，只要將想要説的話輸入即可用明星的口吻讀出來，部分明星的語音效果甚至可以達到以假亂真的地步。

稍微狡猾些的詐騙者不僅會利用語音合成來以假亂真，還會在假的語音中摻雜一些明星本人的真實語音內容，這樣半真半假讓觀眾更難分辨，也讓打假鑑別更難展開。

視頻平台：審核難、打假難

AI換臉降低了視頻造假的門檻，由於數量太多，鑑別速度和難度都非常巨大，這是目前名人造假視頻難甄別的主要原因。

為了應對氾濫成災的AI換臉造假視頻，美國去年曾經成立過一隻DeepFake（AI換臉）打假團隊，普林斯頓計算機系講師Shiva Kintali稱，**當前比較好的打假手段是區塊鏈技術，**給每一個原視頻都打上唯一的印記，這樣拿假視頻去對比時就能直接判斷真偽了。

然而這一措施存在一個巨大的短板：核實成本太高。

基於圖像和語音的聯合偽造會讓短視頻平台的內容審核變得異常艱難，因為此類視頻不屬於色情違規視頻，依靠傳統的智能檢測系統也許根本查不出來。想要證實一個賬號是否是明星本人的賬號，需要人工找到原視頻並加上標記，甚至還需要聯繫明星本人，核實其是否有在該平台註冊賬號。

能不能聯繫到明星本人？機器是否能檢測出來這是一個偽造身份的視頻？這是技術上的難點。

另外，這些視頻號也不會單純的把名字設計成和明星本人一模一樣，就以靳東的詐騙賬號為例，有些的名字裏面直接帶有靳東字樣，也有些並沒有。有的叫東子，有的叫東弟，還有的叫阿東。

**偽造馬雲馬化騰的賬號也不少，**有的叫馬總，有的叫Pony馬，還帶着很多特殊符號，這些名字很難判斷是否存在盜用身份詐騙的行為。

對觀眾來説，這些是比較親切的叫法，更能加強以假亂真的效果，但是對平台的審核人員來説，這無疑大大加大了審核的難度，讓假冒明星的賬號更難鑑別。

而詐騙賬號鑑別難，歸根結底還是在短視頻平台的內容風控尚不健全，尤其是身份核實、實名驗證等環節沒有做好。

其實有關冒用他人身份進行詐騙的法律法規相當完善，根據《最高人民法院關於審理詐騙案件具體應用法律的若干問題的解釋》説明，凡是詐騙財物都屬於犯罪行為。但問題是，能不能抓住短視頻詐騙者本人，對其賬號進行永久封禁。

不少虛假明星的操作者都是團伙作案，比如2019年12月在東營落網的假冒名人電信詐騙案件，其主犯就有4名。他們利用集羣購買來的身份信息偽造賬號來進行批量操作，當某個假賬號的粉絲量比較多引起關注時，就立刻關掉這個賬號，重新開設一個賬號。

△某非法的抖音短視頻註冊平台，接收一條註冊短信只需2毛錢

這種多點打圍的游擊戰形式讓官方更難準確的封禁此類偽禁賬號，而這一點賴不了誰，平台的責任還是大頭，只有在實名驗證和身份審核不完善的平台上，此類詐騙黑產賬號才有猖獗的空間。

就目前來看，電商平台和遊戲平台大多已經實現了青少年防沉迷認證和比較嚴苛的實名認證機制，詐騙賬號並不是沒有，而是詐騙的成本會很高。以淘寶平台為例，刷單賣假貨很難根除，但是造假商販的成本卻一年比一年高，現在已經發展到只能用真人賬號去手動刷單造假，這就是因為淘寶平台對違規賬號的封禁力度和實名認證的檢測程度都在逐年遞增。

而短視頻平台這方面尚未完善，幾大主流平台的實名認證流程都有不少漏洞可以鑽，有些下平台甚至都不需要實名認證就能上架帶貨。這就意味着，造假團伙可以輕易的在此類短視頻平台上批量創建數百個甚至上千個同質化詐騙賬號，也難怪抖音上會一度出現60多個鹿晗和30多個楊冪了。

受騙觀眾：樹大招風的大小飯圈

正如像牛皮癬一樣難以根治的電視偽劣產品廣告一樣，短視頻平台的假明星詐騙也是野草燒不盡。昨天可以在QQ羣、微信羣裏大行其道，今天又可以在短視頻平台上肆虐。等到短視頻平台得到了監管，未來又會在新的平台上再次蔓延。

為什麼這些詐騙團伙怎麼滅都滅不乾淨呢？

其實縱觀明星詐騙類案件，犯罪團伙都有着清晰的“目標定位”，首先大多以女性為目標，打着感情的幌子讓受害人深信不疑，其次按年齡分老少兩個板塊。假扮靳東、鄧超、周潤發等“成熟帥哥”針對中老年婦女下手，假扮w-inds、朱一龍、吳亦凡等“男團鮮肉”針對低齡少女下手。

這一現象歸根結底還是因為我國擁有龐大的低學歷人羣，他們對網絡上紛繁複雜的信息缺少甄別能力，很容易上當受騙。根據中國統計年鑑2016的數據顯示，中國小學及初中學歷人羣佔據64%，接近9億人。

這麼大的“目標市場”，很難讓犯罪分子不動心。

另一方面，詐騙立案也向來都有難捕捉、難立案、高門檻的特點。根據我國最高法的規定，詐騙案的最低立案標準是受騙金額達到3000元以上，那麼學精了的詐騙團伙通常就會採用遊擊打圍的形式來進行多地點、小金額、多批次的詐騙操作，一旦被發現立馬轉移陣地，大大增加了詐騙立案的難度。

過去的地方台虛假廣告是如此，今天假扮名人的詐騙賬號也是如此，且不説受騙者對賬號深信不疑，大多不會去起訴，哪怕真的去起訴了，詐騙金額可能也難以被劃入立案範疇，很容易不了了之。

結語

總而言之，從詐騙者到詐騙渠道再到受騙者，這三個環節的多種原因共同造就了虛假名人詐騙層出不窮的情況，而這一現象在短視頻平台的野蠻生長下更是難以監管。另一方面，由於法律資源有限，立案金額標準也讓詐騙團伙有隙可乘，利用多點遊記的方式躲避審查。

短期來看，由於我國在人口上存在結構性的年齡分層與教育分層，而有限的法律資源也很難徹底的監管這些小額度大批量的詐騙案件。但是長期來看，隨着內容風控的逐步升級，各大平台逐漸上線嚴厲的實名認證和反作弊機制，相信這一情況會逐漸得到遏制。假明星們難審查、難監管、難立案的黑色產業鏈，遲早會迎來正義的審判！