AI馬斯克們搞電詐一年撈金幾百億!緬北簡直弱爆了……_風聞
柴狗夫斯基-51分钟前
還記得去年,ChatGPT大火之後,各類生成式AI就像打開的泄洪口,一發不可收拾!
一場不亞於信息革命的新技術革命,也正式拉開帷幕,然而,在AI造福人類的另一邊,AI作惡的潘多拉魔盒也被同步打開「女子地鐵照被AI一鍵脱衣後傳遍全網,AI的潘多拉魔盒打開了……」。
這個導火索即是,去年3月,有一女子在地鐵上一絲不掛的裸體照片被瘋傳……

隨後,一場聲勢浩大的網絡謠言與網絡審判就悄然展開了,有人説,該女子在完成「主人」交代的任務,也有人説,該女子生活不檢點,還有人説,該女子為了錢,在滿足金主的特殊癖好……

人肉、網暴、黃謠……甚至是一場聲勢浩大的網絡侮辱也來了。

然而事實上,這正是生成式AI做的惡。這張照片,也只是有人在地鐵上隨機找人一拍,放在AI一鍵脱衣的應用中,幾秒鐘生成的。

他隨手這麼一操作,再發上網,短短几天內,一個無辜者,就這麼被毀了清白,該女子個人社交平台,很快也被各種污言穢語攻陷。
該事件背後細思極恐的是,在這個AI時代,似乎我們只要一出門,或者社交平台曬個照,都能被造出各種黃謠。
除此之外,還有小柴爆料過的,「復活」逝者,他們為了賺錢把AI變成血淋淋的刀……在這些案例中,他們通過消費親情,大肆牟利。

但類似這樣的,當大家都習以為常,或許也不算什麼大事,但隨着生成式AI的快速發展,及如今AI在文生文、文生圖、圖生圖、圖生視頻領域,多元化的落地了。
在這個過程中,AI「犯罪」也可以説不斷的推陳出新,比如在造黃謠賺流量外,生成式AI已經近乎瘋狂的滲透到了「電詐領域」。

比如最近一個很火的事情,就是全球公認的AI、新技術精神領袖馬斯克,其被生成的AI形象開始瘋狂的搞電詐了,短短几年時間,已經「撈」到了數十億元美元……
事情大概是這樣的,有個八十對歲的老人,在網絡上看到了一段BBC對馬斯克的採訪,在這段採訪視頻中,馬斯克支持了一個投資理財的項目。
其並在採訪中,大談這個項目的潛力,稱這個項目是一場還不為公眾所知的新技術革命,未來一定會有極高的回報率。

馬斯克站台,認定的新技術,讓這位老人深信不疑。很快手裏握着退休金的的這位老人,生怕錯過機會,就快速找到了項目方,項目方也熱情地幫助老人開通了賬户。
然後,他就按照工作人員的對接,在幾周時間內,將自己積攢下來的所有退休金及畢生積蓄,大概接近五百萬人民幣,全部投進了這個項目。
但當他還沒來得及期盼高回報收益,投資的這個項目就失聯了,投進去的錢全部被捲走了。

而事後調查發現,老人看的所謂的BBC採訪馬斯克的視頻,只不過是AI用幾分鐘時間生成的一個0成本的視頻。
通過AI深度偽造應用,只要將馬斯克的聲音、視頻素材投餵給AI,再輸入相應的文案,任何你想要的逼真視頻效果都能實現。
隨後,他們將這些AI造假視頻,以廣告的形式,投放到社交媒體,再通過AI算法精準的分發給目標用户,剩下的就是打開錢包,坐等收錢了。
而這位被騙光退休金及畢生積蓄的老人,只是這場騙局中的一個縮影。
最近,監測深度偽造視頻的機構Sensity對2000多段深度偽造視頻進行了一個調查分析,發現,因為馬斯克在新技術領域的成就被全球用户的廣泛認知,成為這類視頻最常見的「發言人」。

自去年年底以來,馬斯克出現在近1/4的深度偽造詐騙視頻中,而在加密貨幣相關的「深度偽造」視頻中,他出現的頻率甚至高達90%。
據媒體報道,馬斯克出現過的這類深度偽造視頻,導致數十億美元的詐騙案件。
幾分鐘生成一個視頻,幾乎沒成本,而也正是在這些幾乎沒有成本的視頻,短時間內就能輕鬆撈錢數十億美元?
看到這裏,你是不是和小柴一樣覺得,緬北什麼的簡直弱爆了!果然,AI真解放人類啊!被騙至緬北的兄弟姐妹們這下有救了!
或許緬北想到過一萬種自己被一窩端的可能性,但萬萬沒想到,自己是被AI幹掉的。

值得注意的是,除了馬斯克,在這類視頻中,還有大家耳熟能詳的沃倫·巴菲特、傑夫·貝索斯等科技界、投資界名人。
那麼接下來,在**中文互聯網電詐賽道,AI馬雲、AI李彥宏、AI雷軍們還遠嗎?**尤其在廣袤的五環外下沉市場,或許AI馬雲們正在瘋狂的滲透,底層羣體與頂流們「午餐」的事情,或許馬上要大面積發生了。

事實上,如果你是一個資深的柴油,你就會發現,類似這樣的事情,已經在中文互聯網發生了,比如前不久,小柴寫過一個案例——「「我花3毛買課5天被騙510萬」…新型詐騙出沒,網友炸鍋!」。
在這個案例中,有位用户刷視頻時,看到了一則投資廣告,被騙了五百多萬,之所以點開這個廣告鏈接,是因為廣告宣傳,買了課,就能和頂級投資大神面對面交流。
果然,掏錢賣課後,這個投資界家喻户曉的大神,真就加了私人賬號開視頻一對一、手把手教他投資了。

所謂激動的心、顫抖的手,這位用户,很快就先後轉賬24次,把510萬「交」給了大師。
但顯然,這510萬肉包子打狗無疑了,而這位一對一視頻的投資圈大神,也只不過是AI出來的大神罷了。
畢竟這個時代,讓秦始皇出現在你手機對面,和你聊聊征服全球的夢想,也不是不可能!

在全球範圍內,知名諮詢機構德勤發佈關於生成式AI增加深度偽造欺詐風險的報告,其中提到2023年,金融科技領域的深度偽造事件增加了700%,並預測到2027年,AI將使美國的欺詐損失從2023年的123億美元增加到400億美元,複合年均增長率為32%。

而在國內,也有數據顯示,2**023年基於AI的深度偽造欺詐暴增了3000%,**而基於AI的釣魚郵件數量增長了 1000%。
依據瑞萊智慧公佈的數據,國內AI詐騙案件的涉案金額已經從2020年的0.2萬元,增長至2023年的1670萬元,年複合增長率達1928.8%。2024年剛剛過半,發生的AI詐騙案件已經超過1.85億元。

有個幾千年的俗語叫**「耳聽為虛,眼見為實」**,而隨着AI技術的飛躍式發展,這個影響了人類幾千人的認知,正在成為偽命題。
因為在AI時代,眼見也不一定為實,當眼見與耳聽,都不一定為實的大背景下,電詐這件事,可以説到了人人自危的新階段。
這不由得讓小柴想起了前兩天,**關於某掃地機器人品牌被遠程操控、偷窺、偷聽的事,**簡直不是一般的細思極恐。
如今,電詐分子利用名人,通過AI深度偽造搞電詐,是因為,只有這些名人,才有大量的全方位的視頻、音頻素材,把這些素材餵給AI,就能生成一段以假亂真的視頻。

且同時,在技術的加持下,AI虛擬人,與所有人一對一私聊成了可能,並已經落地,那麼當普通人的視頻、聲音被盜取後,會發生什麼呢?
或許,那時候,**電詐真的就插上翅膀了!**比如,某一天,你爸媽接到你的視頻通話,説要生活費,是不是他們毫無閉坑的可能?
再比如,來一個出車禍、被綁架的現場實時視頻,親朋好友如何招架?事實上,類似的事情,已經開始密集的發生了。
比如此前,有用户爆料,自己手機收到一條視頻短信,這個視頻裏,一段AI合成的不雅視頻,短信附言,要刪視頻,就來打錢,不打錢,全網曝光。

只有你,可能知道這個視頻是假的,但是別人不知道啊!如果這個視頻羣發你的通訊錄,你如何去解釋?尤其是對女生來説?
那麼我們再換個角度,如果這個視頻不是你,而是和你相關的人,你作何處理?
除了類似造黃謠勒索,之前也有警方披露過的關於AI深度偽造電詐的案例,有位媽媽接到一個電話,女兒急需3.5萬培訓費,要立馬賺錢,媽媽聽到的確是女兒的聲音,不假思索的轉賬了。

然而,等真正的女兒打電話過來後,這位媽媽才發現被騙了。
**那麼這個女兒的聲音,到底是怎麼被採集的呢?**詐騙分子的操作十分簡單粗暴,就是給這個「女兒」打了十幾通騷擾電話,簡單的閒聊,採集的聲音素材,很快他們交給AI,就完全復刻出了這位「女兒」説話時的聲音和語氣。
而在這個案例中,電詐分子,只是用了聲音,要是聲音+實時視頻通話一起呢?普通人可以説,毫無辦法對抗,畢竟就連嚴謹的專業化大公司,也被騙了。
比如今年就有一知名公司就遭遇了類似的詐騙,被騙過程可以説非常離譜。

事情大概是,詐騙分子在網上下載了這一公司管理層的視頻、聲音素材,然後通過AI深度偽造技術合成了虛擬高管,然後他們以高管的身份,召開了一個視頻會議。
很快,這公司財務就按照視頻會議內容,用公司賬户前後轉賬15次,合計共2億港元到5個銀行户口。最後發現,這個視頻會議中,竟然只有1個是真人,其他的全部是AI合成的。

該事件也被稱為最離譜的「變臉」詐騙。
類似的案例還有,中央廣播電視總枱中國之聲報道,福建福州市某科技公司老闆郭先生,突然接到朋友的微信視頻電話,稱自己需要430萬用作公司外地投標的週轉,借用郭先生對公賬户走個賬。
僅僅10分鐘,郭先生就陸續向對方轉賬430萬,事後才發現,所謂的朋友,是不法分子用AI技術融合了真人面孔和聲音,製造出的合成圖像。
而這些類似的詐騙手段,隨着門檻逐漸降低,難以想象的後果,正在被一一驗證。
相比於年輕人,或者是商務詐騙,他們圍獵的目標或許更多的是中老年人。
小柴同事們在聊起這個話題的時候,也打趣稱,以後和爹媽視頻,尤其是涉及到錢財的事,可能要對暗號了……

誰説不是呢?現在看來,對於類似的詐騙,我們好像還沒有找到解法。但是親戚好友之間涉及的財務往來,咱們可以對暗號,但是對於各種理財投資詐騙呢?
在這個信息人人皆可生產、分發的時代,類似被深度偽造的詐騙廣告,平台似乎也是沒有能力去根治,加上有錢能使鬼推磨,平台似乎也是這類詐騙以後發展壯大的温牀和推手。

畢竟,AI深度偽造還沒正式來,就連直播帶貨氾濫的詐騙,也沒見得平台能夠動真刀子治療,深藏不漏的AI深度偽造詐騙,平台能治理到哪裏去呢?
所以,接下來,如何給這一羣體上好「信息安全課」,成為必不可少的一項課題。
自然,除了這類慣用的電詐,AI騙局的未來想象空間,是非常巨大的,小柴最後再簡單的舉幾個例子,即最近很火熱的賣課生意,以後,各種大佬會不會AI隨便複製一個自己,去賣課割韭菜呢?
柴狗夫斯基©️
作者|小柴貳號
編輯|譚松