詐騙分子利用生成式AI偽造身份證件以實施犯罪——彭博社
Julie Zhu
攝影師:RichLegg/E+生成式人工智能使得幾分鐘內製作更逼真的假身份證成為可能,而社交媒體上隨手可得的自拍照片進一步助長了這種行為。
欺詐檢測公司Snappt戰略合作副總裁凱爾·尼爾森指出,生成式AI能偽造身份證上的水印、條形碼和全息圖,達到以假亂真的效果。
尼爾森表示,過去六個月裏AI已"大規模"滲透到金融犯罪中。2024年12月,美國聯邦調查局發佈警報稱犯罪分子正運用生成式AI擴大欺詐規模,包括偽造身份證件。今年1月,美國金融業監管局警告詐騙者利用AI技術入侵金融賬户,並以不知情投資者名義開設新賬户。戰略與國際研究中心研究員朱莉婭·迪克森接受採訪時透露,網絡罪犯通過竊取個人資料照片、身份信息或從黑市購買數據來製作深度偽造內容,藉此繞過數字驗證系統和客户身份識別程序。
數字身份驗證和反欺詐平台Socure的數據顯示,在其2800多家客户中,不法分子利用生成式AI篡改真實自拍照的情況正急劇增加。根據其官網信息,Socure的客户涵蓋金融服務、政府機構、遊戲及醫療保健行業。該公司表示,經篡改的自拍照使用量從去年秋季的每週21例飆升至今年初的每週超4500例。
篡改自拍照累計案例數激增
22周內該數字從21例暴增至34,341例。
來源:Socure
注:數據顯示Socure為2800多家客户追蹤相關案例。
Socure報告指出,威脅行為者可輕易從社交媒體竊取自拍照,將其與被盜的個人身份信息結合偽造證件。他們還能利用生成式AI,通過一張頭像照片生成完整人像,並添加看似自然的背景。犯罪分子藉此可用AI篡改照片繞過"身份證+即時自拍"的雙重驗證步驟。
Socure文件驗證產品負責人Deepanker Saxena表示,罪犯還能用AI生成虛擬人物的逼真圖像。例如要求AI圖像生成工具"創建一張45歲棕眼白人女性的自拍照,身高5英尺5英寸";若持有某人10歲時的舊照,現在約20歲,可要求AI生成比原圖年長10歲的圖像以匹配當前樣貌。
詐騙者試圖重複利用相同的被盜身份信息和AI生成的自拍照實施不同犯罪,他表示,並補充道:“一旦他們投入創建了那個身份,就會希望通過重複使用該身份儘可能多地獲利。”
根據Socure的報告,AI生成的假身份證可用於多種欺詐行為,從申請信用卡貸款到戀愛騙局。
Saxena警告稱,為應對日益複雜的攻擊,金融機構需要建立多層防禦系統,在用户嘗試登錄或進行金融交易時,通過分析包括設備和手機所有權信息、行為數據、面部圖像比對、地理位置數據和生物特徵信號在內的多種即時文檔信號進行驗證。
“歸根結底,我們需要用AI對抗AI,“Saxena説。
本週要聞
根據Palo Alto Networks公司的報告,網絡犯罪分子去年以破壞企業運營為首要目標,並利用業務中斷期最大化勒索金額。
這家總部位於加州聖克拉拉的網絡安全公司表示,其在2024年處置的網絡安全事件中,86%導致了業務中斷、聲譽損害或兩者兼有。
Palo Alto Networks旗下Unit 42諮詢與威脅情報高級副總裁Sam Rubin表示,除了加密文件和竊取數據外,黑客去年還試圖破壞公司系統並騷擾利益相關者及商業夥伴,以此脅迫受害者支付贖金。
黑客瞄準了擁有龐大合作伙伴網絡的企業,這類攻擊可能造成大範圍業務中斷並迫使快速支付贖金。報告指出,醫療保健、酒店服務、信息技術和關鍵基礎設施行業受到的影響尤為嚴重。
我們正在閲讀的內容
- 羅馬尼亞被全球特朗普主義碾壓:權力格局。
- 美國放棄在特朗普命令後未來外交官培訓中的DEI條款。
- 一項重要的網絡安全法律即將到期,倡導者正準備推動國會續期。
- ‘OpenAI’工作詐騙針對Telegram上的國際工作者。
**有新聞線索?**您可以通過[email protected]聯繫Jeff Stone。您也可以使用我們的SecureDrop安全且匿名地發送文件。
更多來自彭博的內容
獲取深度科技及更多彭博科技新聞簡報:
- 遊戲進行時深入探索視頻遊戲行業
- 開機啓動獲取蘋果獨家新聞、消費科技資訊等
- 熒幕時光前排觀看好萊塢與硅谷的碰撞
- 聲音片段報道播客、音樂產業及音頻趨勢
- 問答AI解答您所有關於AI的問題