法拉利首席執行官Deepfake視頻顯示AI欺詐冒充高管的威脅日益增長 - 彭博社

Benedetto Vigna攝影師：Hollie Adams/Bloomberg一名行人在加利福尼亞州舊金山的蘋果商店前拿着一部iPhone。

攝影師：David Paul Morris/Bloomberg本月的一個星期二上午，一位Ferrari NV的高管開始收到一系列意外的信息，看起來是來自首席執行官。

“嘿，你聽説我們正在計劃的大收購了嗎？我可能需要你的幫助，”一條自稱來自首席執行官Benedetto Vigna的消息寫道。

彭博社看到的WhatsApp消息並非來自Vigna通常使用的商務手機號碼。頭像也不同，但是是一張戴眼鏡的首席執行官穿着西裝領帶，雙臂交叉站在Ferrari躍馬標誌前的照片。

另一條來自冒充Vigna的消息寫道：“準備好簽署我們的律師即將發送給你的保密協議，意大利市場監管機構和米蘭證券交易所已經被告知。保持警惕，請保持最高的保密。”

據知情人士透露，接下來發生的事情是最新使用深度偽造工具進行實時電話對話，旨在滲透一個國際知名企業。這位接到電話的高管意識到情況不對後，這家意大利超級跑車製造商毫髮無損，這些知情人士稱，由於事態的敏感性，他們要求不透露身份。

模仿維尼亞的聲音令人信服 —— 對南意大利口音的完美模仿。

維尼亞 deepfaker 開始解釋，他打電話使用了一個不同的手機號碼，因為他需要討論一些機密事項 —— 一筆可能會遇到一些與中國有關的麻煩並需要進行一筆未指明的貨幣對沖交易的交易。

據人們稱，這位高管感到震驚並開始產生懷疑。他開始注意到微弱的機械語調，這進一步加深了他的懷疑。

“對不起，貝內代託，但我需要確認你的身份，”這位高管説。他提出了一個問題：幾天前維尼亞向他推薦的那本書的標題是什麼（是《複雜性十誡：在世界不斷變化中的行動、學習和適應》，作者是阿爾貝託·費利切·德·託尼）？

隨即電話被突然掛斷。據人們稱，法拉利展開了內部調查。總部位於意大利馬拉內羅的公司代表拒絕就此事發表評論。

為什麼深度偽造無處不在？它們能被阻止嗎？：QuickTake

蓬勃發展的趨勢

這並非第一次有人試圖冒充知名高管。今年五月，有報道稱廣告巨頭WPP Plc的首席執行官馬克·裏德也成為了一場最終未能成功但同樣精心策劃的 deepfake 詐騙的目標，對方在 Teams 電話中冒充了他。

“今年我們看到犯罪分子利用人工智能嘗試聲音克隆的情況有所增加，”網絡安全培訓公司 SocialProof Security 的首席執行官 Rachel Tobac 在一次採訪中表示。

雖然這些生成式人工智能工具可以製作出令人信服的深度偽造圖像、視頻和錄音，但它們尚未證明足以引起許多人警告的廣泛欺騙。

然而，一些公司已經成為詐騙分子的受害者。今年早些時候，一家未透露名稱的跨國公司在香港的員工被詐騙分子利用深度偽造技術欺騙後損失了2億港元（2600萬美元），據《南華早報》 2月份報道。詐騙者在視頻通話中偽造了公司的首席財務官和其他人的形象，並説服受害者轉賬。

其他公司，如信息安全公司 CyberArk，已經在培訓他們的高管如何識別被機器人欺詐。

閲讀更多： 下一波網絡犯罪從深度偽造視頻通話開始

“這只是時間問題，這些基於人工智能的深度偽造工具預計將變得非常準確，”意大利米蘭理工大學網絡安全教授 Stefano Zanero 在電話採訪中表示。

蘋果公司即將推出的人工智能功能將比預期晚到，錯過了即將推出的iPhone和iPad軟件更新的初始發佈，但這給了公司更多時間來修復錯誤。

據知情人士透露，該公司計劃在10月份開始向客户推出蘋果智能功能，作為即將到來的軟件更新的一部分。知情人士表示，這意味着人工智能功能將在計劃於9月發佈的iOS 18和iPadOS 18初始版本之後幾周到達。這些知情人士拒絕透露身份，因為他們討論的是未公佈的發佈細節。