調查人員是如何解決拜登深度偽造電話詐騙的謎團的 - 彭博社

Katrina Manson

2024-02-08

一名寫信給喬·拜登的競選者站在美國新罕布什爾州康科德的布爾牧場的穀倉外，這是新罕布什爾州初選的日期，即1月23日。

攝影師：Mel Musto/Bloomberg當新罕布什爾州當局着手追蹤一通聲稱來自喬·拜登總統的虛假的AI電話的起源時，他們求助於一家長期預測音頻深度偽造崛起的公司。

Nomorobo，紐約電話科學公司的一部分，是一項自動屏蔽電話推銷和無用短信的服務。它監視35萬個移動電話號碼以捕捉電話推銷，此外還監視着超過一百萬個常規電話號碼，這些號碼是他們商業合同中要監視的，以防範詐騙，創始人Aaron Foss表示。該公司受聘提供此類保護。

它記錄了41個虛假拜登電話的樣本，並據此推斷出大約有5,000至25,000個虛假的拜登電話被撥打。

這類調查的下一個線索是弄清楚打電話的發起者從哪裏找到了要撥打的號碼庫，Foss説。大多數電話似乎是針對註冊的民主黨人，他們被敦促不要參加該州1月23日初選。這個拜登的深度偽造甚至包括他的一個標誌性短語：“真是一派胡言。”

Foss表示，並非所有偽造的拜登電話信息都發給了新罕布仁爾州的選民。根據Nomorobo的數據，一通雜亂的電話似乎打到了德克薩斯州，還有幾個打到了馬薩諸塞州和其他地方。

這意味着這些州的檢察長也可以進行法律調查，可能會面臨刑事和民事處罰，類似於新罕布什爾州檢察長約翰·福梅拉本週早些時候更新的調查。

追蹤呼叫的起源很重要，因為日誌和錄音可能會被刪除，Foss説。

當局能夠追蹤呼叫的起源到一家名為Life Corporation的德克薩斯公司，得到了行業追蹤組織的幫助，該組織致力於查找非法自動撥號的起源。該公司的所有者沃爾特·蒙克還擁有專門從事自動撥號和電話民意調查的公司。蒙克沒有回覆尋求評論的消息。

我的同事瑪吉·墨菲報道稱，這條消息是使用人工智能初創公司ElevenLabs的技術製作的，該公司已經暫停了創作者。新罕布什爾州官員表示他們仍在調查中。ElevenLabs拒絕置評。

拜登被冒名撥打電話並不是第一次。Foss説，之前有一次冒充拜登的電話被用來引導呼叫者參加一個欺詐活動，並最終追蹤到牙買加。然而，拜登致新罕布什爾選民的電話是他遇到的第一個利用人工智能語音克隆來追求政治目的的電話，這種技術已經在11月的總統選舉前使官員和競選人員感到恐慌。

Foss預計這種情況不會有所緩解：克隆人工智能語音電話製作起來既簡單又便宜。而且它們已經出現了。

香港警方在一家跨國公司的員工被騙轉賬相當於2500萬美元給罪犯後，進行了一系列逮捕，罪犯使用了深度偽造技術作為公司搶劫的一部分，據《南華早報》報道。

騙子在一月份針對這名職員使用了一個釣魚鏈接，聲稱來自該公司的首席財務官，該公司未透露名稱。然後，員工被加入到一個與首席財務官的羣視頻通話中，並被告知進行轉賬。據香港警方稱，該員工在不知情的情況下與一個使用人工智能生成的財務主管的視頻形象進行了交談。

《商業週刊》在八月份預測了下一波騙局將是僱主進行深度偽造視頻通話。該報道詳細介紹了信息安全公司CyberArk的主席烏迪·莫卡迪（Udi Mokady）在一次實時視頻會議中面對了自己的深度偽造形象，這是由一名員工創建的。幸運的是，對於莫卡迪來説，這個深度偽造是他的一名員工、一名漏洞研究經理的測試。

員工加爾·茲羅（Gal Zror）使用現成的生成式人工智能工具花了幾周時間創建這個視頻。然而，對於職業罪犯來説，幾周的工作換取數千萬美元可能非常誘人。— Margi Murphy

**有新聞線索嗎？**您可以聯繫傑夫·斯通，郵箱：[email protected]。您也可以使用我們的SecureDrop安全、匿名地發送文件給我們。

獲取科技日報以及更多彭博科技週刊，直接發送到您的收件箱：