AI馬斯克們搞電詐一年撈金幾百億！緬北簡直弱爆了……_風聞

還記得去年，ChatGPT大火之後，各類生成式AI就像打開的泄洪口，一發不可收拾！‍

一場不亞於信息革命的新技術革命，也正式拉開帷幕，然而，在AI造福人類的另一邊，AI作惡的潘多拉魔盒也被同步打開「女子地鐵照被AI一鍵脱衣後傳遍全網，AI的潘多拉魔盒打開了……」。‍‍‍‍‍

這個導火索即是，去年3月，有一女子在地鐵上一絲不掛的裸體照片被瘋傳……‍‍‍‍‍

隨後，一場聲勢浩大的網絡謠言與網絡審判就悄然展開了，有人説，該女子在完成「主人」交代的任務，也有人説，該女子生活不檢點，還有人説，該女子為了錢，在滿足金主的特殊癖好……

人肉、網暴、黃謠……甚至是一場聲勢浩大的網絡侮辱也來了。‍

然而事實上，這正是生成式AI做的惡。這張照片，也只是有人在地鐵上隨機找人一拍，放在AI一鍵脱衣的應用中，幾秒鐘生成的。

他隨手這麼一操作，再發上網，短短几天內，一個無辜者，就這麼被毀了清白，該女子個人社交平台，很快也被各種污言穢語攻陷。

該事件背後細思極恐的是，在這個AI時代，似乎我們只要一出門，或者社交平台曬個照，都能被造出各種黃謠。

除此之外，還有小柴爆料過的，「復活」逝者，他們為了賺錢把AI變成血淋淋的刀……在這些案例中，他們通過消費親情，大肆牟利。

但類似這樣的，當大家都習以為常，或許也不算什麼大事，但隨着生成式AI的快速發展，及如今AI在文生文、文生圖、圖生圖、圖生視頻領域，多元化的落地了。

在這個過程中，AI「犯罪」也可以説不斷的推陳出新，比如在造黃謠賺流量外，生成式AI已經近乎瘋狂的滲透到了「電詐領域」。‍‍

比如最近一個很火的事情，就是全球公認的AI、新技術精神領袖馬斯克，其被生成的AI形象開始瘋狂的搞電詐了，短短几年時間，已經「撈」到了數十億元美元……‍‍‍‍‍‍‍‍‍‍‍

事情大概是這樣的，有個八十對歲的老人，在網絡上看到了一段BBC對馬斯克的採訪，在這段採訪視頻中，馬斯克支持了一個投資理財的項目。

其並在採訪中，大談這個項目的潛力，稱這個項目是一場還不為公眾所知的新技術革命，未來一定會有極高的回報率。‍‍‍‍‍‍‍‍‍‍‍

馬斯克站台，認定的新技術，讓這位老人深信不疑。很快手裏握着退休金的的這位老人，生怕錯過機會，就快速找到了項目方，項目方也熱情地幫助老人開通了賬户。

然後，他就按照工作人員的對接，在幾周時間內，將自己積攢下來的所有退休金及畢生積蓄，大概接近五百萬人民幣，全部投進了這個項目。‍‍‍

但當他還沒來得及期盼高回報收益，投資的這個項目就失聯了，投進去的錢全部被捲走了。‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

而事後調查發現，老人看的所謂的BBC採訪馬斯克的視頻，只不過是AI用幾分鐘時間生成的一個0成本的視頻。‍‍‍‍

通過AI深度偽造應用，只要將馬斯克的聲音、視頻素材投餵給AI，再輸入相應的文案，任何你想要的逼真視頻效果都能實現。‍‍‍‍‍‍‍‍‍

隨後，他們將這些AI造假視頻，以廣告的形式，投放到社交媒體，再通過AI算法精準的分發給目標用户，剩下的就是打開錢包，坐等收錢了。‍‍

而這位被騙光退休金及畢生積蓄的老人，只是這場騙局中的一個縮影。

最近，監測深度偽造視頻的機構Sensity對2000多段深度偽造視頻進行了一個調查分析，發現，因為馬斯克在新技術領域的成就被全球用户的廣泛認知，成為這類視頻最常見的「發言人」。

自去年年底以來，馬斯克出現在近1/4的深度偽造詐騙視頻中，而在加密貨幣相關的「深度偽造」視頻中，他出現的頻率甚至高達90%。‍‍‍‍‍‍‍‍‍‍‍‍

據媒體報道，馬斯克出現過的這類深度偽造視頻，導致數十億美元的詐騙案件。‍‍‍‍‍

幾分鐘生成一個視頻，幾乎沒成本，而也正是在這些幾乎沒有成本的視頻，短時間內就能輕鬆撈錢數十億美元？‍‍‍‍‍‍‍‍‍‍‍‍‍‍

看到這裏，你是不是和小柴一樣覺得，緬北什麼的簡直弱爆了！果然，AI真解放人類啊！被騙至緬北的兄弟姐妹們這下有救了！‍‍‍‍

或許緬北想到過一萬種自己被一窩端的可能性，但萬萬沒想到，自己是被AI幹掉的。‍‍‍‍‍‍‍

值得注意的是，除了馬斯克，在這類視頻中，還有大家耳熟能詳的沃倫·巴菲特、傑夫·貝索斯等科技界、投資界名人。‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

那麼接下來，在**中文互聯網電詐賽道，AI馬雲、AI李彥宏、AI雷軍們還遠嗎？**尤其在廣袤的五環外下沉市場，或許AI馬雲們正在瘋狂的滲透，底層羣體與頂流們「午餐」的事情，或許馬上要大面積發生了。‍

事實上，如果你是一個資深的柴油，你就會發現，類似這樣的事情，已經在中文互聯網發生了，比如前不久，小柴寫過一個案例——「「我花3毛買課5天被騙510萬」…新型詐騙出沒，網友炸鍋！」。‍

在這個案例中，有位用户刷視頻時，看到了一則投資廣告，被騙了五百多萬，之所以點開這個廣告鏈接，是因為廣告宣傳，買了課，就能和頂級投資大神面對面交流。‍‍‍‍‍‍‍

果然，掏錢賣課後，這個投資界家喻户曉的大神，真就加了私人賬號開視頻一對一、手把手教他投資了。‍

所謂激動的心、顫抖的手，這位用户，很快就先後轉賬24次，把510萬「交」給了大師。‍

但顯然，這510萬肉包子打狗無疑了，而這位一對一視頻的投資圈大神，也只不過是AI出來的大神罷了。

畢竟這個時代，讓秦始皇出現在你手機對面，和你聊聊征服全球的夢想，也不是不可能！‍‍

在全球範圍內，知名諮詢機構德勤發佈關於生成式AI增加深度偽造欺詐風險的報告，其中提到2023年，金融科技領域的深度偽造事件增加了700%，並預測到2027年，AI將使美國的欺詐損失從2023年的123億美元增加到400億美元，複合年均增長率為32%。‍‍

而在國內，也有數據顯示，2**023年基於AI的深度偽造欺詐暴增了3000%，**而基於AI的釣魚郵件數量增長了 1000%。

依據瑞萊智慧公佈的數據，國內AI詐騙案件的涉案金額已經從2020年的0.2萬元，增長至2023年的1670萬元，年複合增長率達1928.8%。2024年剛剛過半，發生的AI詐騙案件已經超過1.85億元。

有個幾千年的俗語叫**「耳聽為虛，眼見為實」**，而隨着AI技術的飛躍式發展，這個影響了人類幾千人的認知，正在成為偽命題。‍‍‍

因為在AI時代，眼見也不一定為實，當眼見與耳聽，都不一定為實的大背景下，電詐這件事，可以説到了人人自危的新階段。‍‍‍‍

這不由得讓小柴想起了前兩天，**關於某掃地機器人品牌被遠程操控、偷窺、偷聽的事，**簡直不是一般的細思極恐。‍

如今，電詐分子利用名人，通過AI深度偽造搞電詐，是因為，只有這些名人，才有大量的全方位的視頻、音頻素材，把這些素材餵給AI，就能生成一段以假亂真的視頻。‍‍‍‍

且同時，在技術的加持下，AI虛擬人，與所有人一對一私聊成了可能，並已經落地，那麼當普通人的視頻、聲音被盜取後，會發生什麼呢？‍

或許，那時候，**電詐真的就插上翅膀了！**比如，某一天，你爸媽接到你的視頻通話，説要生活費，是不是他們毫無閉坑的可能？‍‍‍‍‍‍‍‍‍‍‍

再比如，來一個出車禍、被綁架的現場實時視頻，親朋好友如何招架？事實上，類似的事情，已經開始密集的發生了。‍‍

比如此前，有用户爆料，自己手機收到一條視頻短信，這個視頻裏，一段AI合成的不雅視頻，短信附言，要刪視頻，就來打錢，不打錢，全網曝光。‍‍‍‍‍

只有你，可能知道這個視頻是假的，但是別人不知道啊！如果這個視頻羣發你的通訊錄，你如何去解釋？尤其是對女生來説？

那麼我們再換個角度，如果這個視頻不是你，而是和你相關的人，你作何處理？

除了類似造黃謠勒索，之前也有警方披露過的關於AI深度偽造電詐的案例，有位媽媽接到一個電話，女兒急需3.5萬培訓費，要立馬賺錢，媽媽聽到的確是女兒的聲音，不假思索的轉賬了。‍‍‍‍‍‍‍‍‍‍‍‍

然而，等真正的女兒打電話過來後，這位媽媽才發現被騙了。‍‍‍‍

**那麼這個女兒的聲音，到底是怎麼被採集的呢？**詐騙分子的操作十分簡單粗暴，就是給這個「女兒」打了十幾通騷擾電話，簡單的閒聊，採集的聲音素材，很快他們交給AI，就完全復刻出了這位「女兒」説話時的聲音和語氣。‍

而在這個案例中，電詐分子，只是用了聲音，要是聲音+實時視頻通話一起呢？普通人可以説，毫無辦法對抗，畢竟就連嚴謹的專業化大公司，也被騙了。‍‍‍

比如今年就有一知名公司就遭遇了類似的詐騙，被騙過程可以説非常離譜。‍‍‍

事情大概是，詐騙分子在網上下載了這一公司管理層的視頻、聲音素材，然後通過AI深度偽造技術合成了虛擬高管，然後他們以高管的身份，召開了一個視頻會議。

很快，這公司財務就按照視頻會議內容，用公司賬户前後轉賬15次，合計共2億港元到5個銀行户口。最後發現，這個視頻會議中，竟然只有1個是真人，其他的全部是AI合成的。‍‍

該事件也被稱為最離譜的「變臉」詐騙。‍‍‍‍‍‍‍‍‍

類似的案例還有，中央廣播電視總枱中國之聲報道，福建福州市某科技公司老闆郭先生，突然接到朋友的微信視頻電話，稱自己需要430萬用作公司外地投標的週轉，借用郭先生對公賬户走個賬。

僅僅10分鐘，郭先生就陸續向對方轉賬430萬，事後才發現，所謂的朋友，是不法分子用AI技術融合了真人面孔和聲音，製造出的合成圖像。

而這些類似的詐騙手段，隨着門檻逐漸降低，難以想象的後果，正在被一一驗證。

相比於年輕人，或者是商務詐騙，他們圍獵的目標或許更多的是中老年人。

小柴同事們在聊起這個話題的時候，也打趣稱，以後和爹媽視頻，尤其是涉及到錢財的事，可能要對暗號了……

誰説不是呢？現在看來，對於類似的詐騙，我們好像還沒有找到解法。但是親戚好友之間涉及的財務往來，咱們可以對暗號，但是對於各種理財投資詐騙呢？‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

在這個信息人人皆可生產、分發的時代，類似被深度偽造的詐騙廣告，平台似乎也是沒有能力去根治，加上有錢能使鬼推磨，平台似乎也是這類詐騙以後發展壯大的温牀和推手。

畢竟，AI深度偽造還沒正式來，就連直播帶貨氾濫的詐騙，也沒見得平台能夠動真刀子治療，深藏不漏的AI深度偽造詐騙，平台能治理到哪裏去呢？‍‍‍‍‍‍

所以，接下來，如何給這一羣體上好「信息安全課」，成為必不可少的一項課題。

自然，除了這類慣用的電詐，AI騙局的未來想象空間，是非常巨大的，小柴最後再簡單的舉幾個例子，即最近很火熱的賣課生意，以後，各種大佬會不會AI隨便複製一個自己，去賣課割韭菜呢？‍‍‍

柴狗夫斯基©️

作者｜小柴貳號

編輯｜譚松