AI版女網紅，向全國“老實人”宣戰_風聞
视觉志-视觉志官方账号-你陪着我的时候，我没羡慕过任何人06-21 07:12
作者 | 蟲二
來源 | 視覺志
這幾天，有一條爆炸新聞被娛樂圈桃紅的豔聞，網紅們賺眼球的奇葩操作壓得毫無熱度。
隱匿在各路熱搜之下，卻難掩駭人聽聞的本質：
“10分鐘，騙走當事人430萬元鉅款。”
有一天，老郭突然收到朋友打來的一通微信視頻電話。
電話裏，朋友口口聲聲稱自己在外地競標需要430萬元的保證金，想要通過老郭的公司賬户走款。
視頻裏對方向老郭要了銀行卡號，發了匯款截圖説自己已經把錢轉過去了。
朋友真真切切地在屏幕對面給出承諾，老郭既沒起疑心，也沒仔細核實，直接就把430萬打了過去。
掛了電話，老郭隨手把轉賬截圖發給了朋友，説事已辦妥，對方卻回了老郭一個「 ？」。
到這一步，老郭猛然意識到不對勁，可惜為時已晚。
在騙子的巧言令色下，一筆鉅款竟是經自己親手操作轉出去的。
圖注：警銀聯動，目前已經追回部分錢款
究竟是我們太不小心，還是騙術實在囂張？
怎麼就能在雙方都沒有發覺的情況下完成即時通訊，還要做到不光容貌、表情與真人無二，就連語言風格、聲線特點都被完美復刻？
細思，極恐。
如今，在這個萬物互聯的時代，之所以人人聞詐騙色變，正在於其發展之迅猛讓人避無可比。
面對天花亂墜的騙術，多一次打破邊界的認知，就是多一分的安穩。
不止一樁
“小王，我表姐闌尾炎住院了，借我3800，過幾天就還！”
剛收到同學的求助消息時，小王還留了個心眼兒。這年頭誰會突然QQ借錢啊，他一心覺得對方被盜號了是個騙子。
對方沒等小王做回覆，倒先自顧自説了起來。
稱自己微信裏沒那麼多錢想週轉一下，還説自己已經給小王的銀行卡轉了3800，順便就把轉賬截圖一併發來了。
圖源：澎湃視頻
可小王看到截圖的銀行卡尾號和自己的無二，就去查了一番，可自己的銀行卡根本就沒有收到這筆錢。
小王擔心自己被騙，但又真的怕耽誤了同學的大事，想着可能是轉的錢只是沒及時到賬，就提出要和同學打個視頻來證實猜想。
沒過兩聲視頻就被接通，對方就是他同學，上來説了一句“你幹嘛”，就沒了聲音，小王讓他説話，對方就推辭“網太卡，講不了”。
儘管這對話裏充斥着奇怪，小王還是沒有多想，確定了對方沒被盜號就按照要求把錢轉了過去。
除了詐騙的由頭不一樣，其餘的一切幾乎與老郭的遭遇完全重合。
高科技犯罪的面紗之下，連臉和聲音，都不能當做一種保障。
當身份的證明變得不那麼可信，我們又能相信什麼呢？
可悲的是，利用最新興的前沿科技犯罪的，絕不止有這一種。
甚至，你屏幕對面正熱聊的人發來的照片都是用科技合成的，而你卻分辨不出。
AI繪畫經過短時間內的飛速發展，已經能通過短短几個關鍵詞就能生成一副與照片幾乎無差別的繪圖。
圖源：社交平台上由AI繪畫創作的虛擬博主
無論對方提出什麼要求，利用AI繪畫就能做到實時出圖。
拿捏這一特點加以利用，就變成了殺豬盤和親屬詐騙最好的誘餌。
至於上不上鈎，不僅取決於受害者的戒備，更在於詐騙方提供信息的可信程度。
只要足夠真切，足夠緊急，就能騙到人。
當然，還有一種最常見的，要屬情色詐騙。在高科技的加持下，這條黑路子，越來越好走。
蘇州警方曾破獲的一起“遊艇派對詐騙案”，是國內首個AI繪圖詐騙案。
宣傳語直白又露骨：“派對一對一配備青春火辣女僕貼身服務，酒水美食隨便吃，跳海優惠價只需3000元。”圖片上的美女更是風格各異，身材火辣似建模。
這張海報流傳在全網，有人掃了碼才發現要想參加活動就要先交定金。等到你猶豫不決的時候，對方發來一份文件，文件裏都是大尺度的誘惑照片。
隨着熱度的攀升，有人發現了端倪，所有的人手部分都呈現出詭異的扭曲。
隨後也有專業人士指出，這幅海報所有照片均是由AI繪畫所產出。
在全網範圍內散佈虛假的情色信息，榨取無知網民的錢。
一幕又一幕屢見不鮮的案例，無一不在證實着黑惡勢力作惡手段的高科技化。
而當科技面向大眾普及，又會生出多少難以抵擋的惡呢？
犯罪成本
當AI換臉等新興技術手段正加速運用到日常生活，我們不得不承認，犯罪成本正呈現斷崖式下跌。
一則#你願意花30元和AI半藏森林視頻通話嗎#的詞條登上微博熱搜，揭露了AI產品的撈錢密碼。
半藏森林是名小有名氣的網紅，清純的臉蛋和曼妙身材的反差引得無數網友的瘋狂追捧。
產品的開發者深諳人性深處的陪伴需求，這款軟件不僅真實的模擬了網紅半藏森林的真人版朋友圈，更有24小時視頻陪聊的服務。
有美女全天候一對一實時陪聊，誰能拒絕？
而這一切當然不是“慈善”，不過都是些明碼標價的惡臭交易。
每個月只要6元，就能“享受”到AI美女的24小時語音秒回。更有30元包月的加強模式，實現隨時隨地的視頻通話。
真的這麼神奇嗎？半藏森林本人知道嗎？開視頻難道不會盜取用户的個人隱私嗎？
安全問題還沒得到保障，體驗感首先就不達期望。
有網友體驗後抱怨視頻通話裏半藏森林的口型和説出的話完全對不上，就好像在看全程配音的蹩腳電視劇。
無論是任何話題、任何語氣，視頻對象的臉上永遠掛着的是同一副淡漠表情。
和體驗感相對着的，是隱藏在軟件評論區裏更為隱秘的交易鏈——
“軟件會窺屏，不僅會看你的相冊，還會抓取關鍵詞順藤摸瓜扒出你的一切個人信息。“
“太恐怖了，給你回消息的是真人和機器替換着來的。會問你很多奇怪的問題，甚至還會喊你轉賬！”
不僅賺了你的錢，還有可能被狠狠撈上一筆隱私債。
AI技術已經被運用在我們的日常生活，換臉學説也成就了一些人的流量密碼。
可是高新科技犯下的惡遠比我們想象的還要近，還要猖狂。
年過半百的大姐迷戀上合成靳東的消息還在昨天，新入坑的大媽又再次出現在虛擬的互聯網之上。
在並不瞭解互聯網、上了年紀的人眼中，換臉、剪輯、合成，一切的科技痕跡都不存在，只有一顆真心的召喚。
儘管風險之大難以估量，還是有人願意用換臉明星來換取流量。
無論是視頻平台爆火的AI孫燕姿，還是直播間裏帶貨的AI楊冪，如此“以小博大”擦邊行為的猖獗，無外乎印證了換臉操作的成本之低。
在購物平台搜索關鍵詞，會跳出成百上千個聲稱“AI換臉視頻直播教程，幫你換成別人模樣還能直播擼錢”的教學軟件。
只需要4塊錢不到，完全沒有基礎的人也能操作。
曾有官媒曝光，合成一個動態視頻的成本不超過10元，針對大型的直播平台支持實時換臉的全套模型也只需3.5萬。
再打開各大視頻軟件搜索換臉，可以學到一系列的免費教程。
技術帶來正向熱度的同時，幾乎傷不到筋骨的低廉成本更是直接催生出陰暗角落的罪惡，接踵而來的欺詐與色情向全網席捲。
前段時間，“女孩一絲不掛搭乘地鐵”的照片在全網瘋傳。
據報道，是有人利用“一鍵脱衣”的軟件對照片進行操作，將裸體“移植”到了女孩的身上。
縱然低劣的p圖漏洞百出，可髒水潑在身上就是百口莫辯的。
下流的話語攻擊着被人肉出來的女孩，在流量的狂歡下沒人去在意她的名譽。
罪惡，一直在身邊。
有數據顯示，類似一鍵脱衣、一鍵換臉的軟件，一經開發就遭到網民們的瘋狂下載。
利用AI造黃謠，可太方便了。
在犯罪成本如此之低的互聯網時代，誰都能是被侵犯的主體，誰也都能做那個藏在科技手段背後的惡毒殺手。
騙術的進化
新聞剛曝光的時候，網上譁然一片。
“以後不要在網上發自己的照片，接到陌生電話也千萬別出聲。”
有人驚恐，有人張皇，有如驚弓之鳥般想盡辦法避免自己成為被坑害的那一個。
不怪網友“怕井繩”，實在是騙術的進化，太迅猛了。
至今，小視仍記得2016年震動全國的“徐玉玉案”，彼時電信詐騙還並不被人熟知。
圖源：沂蒙晚報
儘管徐玉玉高考發揮失常，仍然考了568分，比一本線高出了快40分。
徐玉玉的家庭並不富裕，父親是名瓦工，有活就乾沒活只能歇着，月均三千的收入來得極不穩定。
加上母親有身有殘疾根本無法幹活，全家的擔子都落在父親的頭上。
可供養兩個孩子，還是無力的。中年男人把煙酒花錢的嗜好都戒了，也只是勉強撐着這個家。
所有的一切徐玉玉都看在眼裏，仔細計算着每一筆錢，小小的年紀懂事得很。
高中時期的她每個月只有兩百塊錢的生活費，但她還是能攢下來一大筆。
圖源：央視新聞
“你有一筆兩千六百八的學生助學金，如果要領取的話，今天是最後一天了，你需要跟某某財政局工作人員聯繫，電話號你記一下。”
剛上大學的徐玉玉接到詐騙電話的時候也沒多想，就按照自稱是教育局工作人員告訴的號碼，撥了過去。
倒不是徐玉玉沒警惕，實在是前幾天剛接到教育部門的電話，辦理完助學金的相關手續，被告知沒幾天錢就能發下來。
詐騙犯讓徐玉玉在20分鐘內趕到ATM機旁，按照對方的提示操作了一通，但沒能成功，騙子就趁勢問她身上是否有其他的銀行卡。
徐玉玉身上剛好一張用來繳學費的卡，裏面是父親剛剛湊齊的小一萬。
騙子拿捏着徐玉玉剛上大學的懵懂，騙她説銀行卡還未激活，需要先取出9900，把錢款匯入指定賬號。
半個小時內，這筆錢就會連同助學資金一起回到徐玉玉的賬上。
可徐玉玉站在那乾等着，等到天色漸晚也沒有收到那筆錢。回撥給對方，卻只有關機的通知。
意識到被騙的徐玉玉如遭五雷轟頂，一萬塊錢對於她的家庭來説是近乎是大半年的緊衣縮食。
報完案的徐玉玉，坐在父親的三輪車上不省人事，經緊急搶救，仍不幸離世。
可憐徐玉玉，寒窗十數載卻沒能等來踏入大學校門的那天。
如今回過頭來，再重新審視騙局，手法本不高明，卻在犯罪分子環環相扣的劇本陷阱和配合下，讓這場犯罪行為變得愈發可怖。
有人扮演教育局的工作人員，有人冒充財政局的公職人員，有人早就守在ATM機旁等候着。
蟄伏在黑暗裏，用編造好的話術，等待一個又一個徐玉玉的出現。
在騙子的劇本里，不僅兼顧情緒安撫，對不同的對象還有着不同的話術要求。
春運期間做票務詐騙，黃金週前搞“護照申請”，等到了開學季就專注於騙學生和家長。
也許今天的我們，不會再輕易掉入這些早已過時的爛俗劇本。
但在頻繁翻新的騙術和不斷完善的灰色產業鏈面前，我們未必不是下一個徐玉玉。
時代發展得太快，高新科技也為詐騙的新劇本提供着源源不斷的新內容、新手段。
圖注：AI語音合成轉換流程
2019年5G興起，2020年智能駕駛橫空出世，2021年走紅了元宇宙的概念，去年AI繪畫遍地開花，今年又流行起了Chat GPT。
“超級風口”總是不停在湧現，誰又知道不法分子準備用來做什麼？
2016那一年，快播的創始人犯傳播牟利罪鋃鐺入獄，一句“技術無罪”引發全民不滿。
王欣出獄的那天，在他一直堅持的觀點上，加上了半句話——技術是無罪的，但人會犯錯。
技術也是發展的必然，可人也有良莠。
我們無法去消滅全部的惡，但只要我們對騙術再多一分了解，對不確信之事再多一點警惕。
如此，就能讓猖獗的氣焰再熄滅一寸。
一寸，再一寸。
監製：視覺志
編輯：蟲二
微博：視覺志