中國發布首個金融領域“AI 換臉”檢測標準 | 聯合早報

中國星期五（9月6日）《發佈虛假數字人臉檢測金融應用技術規範》標準，規定了金融領域虛假數字人臉檢測服務的功能要求、技術要求、性能要求等，並提出了對應的測試評估方法。這是中國首個面向金融場景的“AI換臉”檢測標準。

根據中新網報道，上述《標準》星期五在上海舉行的一場活動中正式發佈。中關村金融科技產業發展聯盟秘書長、中關村互聯網金融研究院院長劉勇在活動上發言時稱：“該標準的發佈為金融場景下的虛假數字人臉安全檢測和評估提供了依據，也填補了這一領域的空白。”

《標準》在中關村金融科技產業發展聯盟組織下，由螞蟻天璣實驗室和工商銀行、建設銀行、郵儲銀行、中信銀行、北京國家金融科技認證中心、中關村互聯網金融研究院、網商銀行、北京前沿金融監管科技研究院等十幾家機構共同撰寫。

《標準》在“功能”和“性能”兩方面作出了具體規定。功能層面，相關機構應具備替換、活化、深度偽造等五種情況下的虛假數字人臉檢測功能。性能層面，相關機構應建立不少5000張的真實數字人臉數據集，和不同偽造形式的虛假人臉數據集，以應對現實生活中的複雜場景。

例如不同膚色、不同光線條件、不同清晰度、包含或不包含語音等都是重要維度。據瞭解，標準的各項條款均在螞蟻天璣實驗室完成了試驗驗證，並且天璣實驗室已經開展了面向金融機構“AI換臉”檢測能力的測試評估服務。

此外，《標準》也明確虛假數字人臉內容檢測服務性能將從準確性、魯棒性、泛化性、響應速度等四個維度進行評估，考察機構是否具備完整的、高準確度、高性能的檢測水平。

報道指出，近兩年，隨着人工智能技術的飛速發展，深度偽造技術(Deepfake)也日益成熟，它在給社會帶來便利的同時，也帶來了前所未有的安全挑戰。特別是金融行業，人臉識別技術作為身份鑑別的重要手段，其安全性直接關係到金融交易的安全與用户資金的安全。一些不法分子利用人工智能技術製造虛假數字人臉，企圖繞過安全機制，給金融安全帶來了嚴重的威脅。劉勇表示，希望通過這個標準指導金融行業及相關機構提升識別虛假數字人臉安全的能力，防範相關金融風險。