中國AI治理方案亮相聯合國峯會 深度偽造攻擊率擊退超六成

【環球網科技綜合報道 記者 李文瑤】近日，聯合國在瑞士日內瓦召開全球AI for Good（人工智能向善）峯會。螞蟻集團技術戰略與發展部副總經理彭晉受邀分享中國在金融場景中對抗“深度偽造”的技術成果，同時披露螞蟻數科服務的東南亞銀行偽造人臉攻擊頻率已從高峯期的10%大幅擊退至4%，識別準確率保持在99.9%，可為全球AI安全治理提供可複用的"中國方案"。

全球AI for Good人工智能向善峯會由聯合國下屬國際電信聯盟（ITU）與 40 多個聯合國姊妹機構合作舉辦，並與瑞士政府共同承辦。大會旨在推動人工智能促進健康、氣候、性別、包容性繁榮、可持續基礎設施和其他全球發展優先事項。

隨着生成式AI工具的普及應用，全球範圍內利用“AI換臉”進行欺詐的惡性事件屢見不鮮，尤其在金融機構的用户註冊、交易等環節，身份偽造可能導致銀行、支付平台錯誤判斷，帶來直接經濟損失。據彭晉介紹，2024年，東南亞銀行的Deepfake（深度偽造）攻擊率，在高峯時期達到了10%，即每100次人臉驗證中有10次為虛假人臉。在螞蟻數科的產品技術支持下，其服務的東南亞銀行Deepfake攻擊率已擊退至4%。這些銀行用户身份認證的攔截率從原本50%降低至3%。業務提效的同時，識別準確率保持在99.9%。同時，彭晉表示，人臉識別算法攻防是一個與黑產對抗博弈的過程，算法依然需要以“天”為單位不斷更新，來對抗及預判新型的偽造手法。

據介紹，目前金融機構面臨的主流“換臉欺詐”方式包括兩大類，一類是呈現式攻擊，即在相機前呈現虛假圖像以繞過活體檢測。另一類是注入式攻擊，即從系統層面破解相機，注入預錄圖像/視頻以替換相機捕獲的面部畫面。螞蟻數科旗下ZOLOZ可提供金融級的身份安全認證服務，在設備端實施環境安全檢測，在應用端利用動態深度學習模型精準識別活體特徵，並建立了完善的業務風控策略，有效抵禦各類攻擊。目前，ZOLOZ的相關技術產品已經服務全球超25個國家和地區，助力海外數字化發展。

此前，螞蟻數科在全球人工智能頂會IJCAI 2025開放超過180萬多模態深度偽造數據集，共涵蓋88種偽造技術，推動行業開展可驗證、可追溯的AI安全研究。