當AI被用於詐騙，反詐只能靠AI

【文/觀察者網 李煥宇】

“你好，這裏是XXX公安局，你名下的賬户涉及一起洗錢案，請配合我們調查…….”

“你好，你的銀行卡在XXX刷卡消費7888元等，如有疑問，可致電XXXX……”

“你好，這裏是XXX客服，你有一份快遞丟失，需要配合完成理賠……”

近年來，隨着人們的生活加速向線上轉移，電信詐騙日漸猖獗。公安部數據顯示，去年前三季度，全國共破獲電信網絡詐騙案件26.2萬起，抓獲犯罪嫌疑人37.3萬名，同比上升41.1%和116.4%。

不僅如此，隨着人工智能（AI）、區塊鏈、虛擬貨幣等新技術的應用，電信詐騙正讓人“防不勝防”。比如騙子完全可以用人工智能對人臉、聲音等個人隱私敏感信息進行深度偽造，輕鬆騙取受害人信任。

正因如此，政府、機構、以及各類公司都在積極探索在反詐領域也用上這些新技術，AI反詐更是備受關注。包括螞蟻集團、中國電信等公司都已將AI投入反詐實戰。但這也帶出了另一個問題，如何確保這些反詐AI值得信任？

電信詐騙，全球難題

目前，電信詐騙已成為全球性的打擊治理難題。

粵港澳大灣區數字經濟研究院指出，世界主要發達國家的電信網絡詐騙案呈迅猛增態勢。一方面，在新冠疫情背景下，人們生產生活加速向網上轉移，加劇了案件高發；另一方面，如今電詐黑色產業鏈組織架構成熟，並且深度隱匿、全網流竄。他們藉助區塊鏈、虛擬貨幣、AI智能、GOIP、遠程操控、共享屏幕等新技術新業態，不斷更新升級犯罪工具， 跨國有組織特徵日趨明顯。

我國同樣如此。中國信息通信研究院在《新形勢下電信網絡詐騙治理研究報告》中稱，電信網絡詐騙日益呈現技術對抗性強、詐騙手法翻新快、詐騙目標年輕化等新特點新趨勢。電信網絡詐騙正從電話詐騙轉向互聯網詐騙，由“隨機詐騙”走向“精準詐騙”，變得更具針對性和指向性，欺騙性、迷惑性進一步增強。

層出不窮的詐騙手段

技術“進步”帶來的麻煩尤其突出。《法治日報》9月7日報道稱，例如在編寫、發佈詐騙引流信息時，詐騙團伙已開始使用自動化腳本執行工具，這大大提高了詐騙信息發佈的效率；在與被害人批量溝通時，詐騙團伙會利用AI機器人進行智能聊天，使用雲手機、虛擬機和羣控設備等方式降低人工成本。於是，電詐成本越來越低，作案手法越來越隱蔽，執法成本也越來越高。

不斷“進化”着的電信詐騙已經引起了國家層面的重視。2021年，新華網曾在報道中明確指出——“電信網絡詐騙現已成為發展最快、嚴重影響人民羣眾安全感的刑事犯罪之一，嚴重影響社會的長治久安，人民生活的安定幸福。”

同年，《反電信網絡詐騙法（草案）》進行意見徵集。到了今年的9月2日，十三屆全國人大常委會第三十六次會議表決通過《反電信網絡詐騙法》，該法明確規定，電信業務經營者、銀行業金融機構和非銀行支付機構、互聯網服務提供者承擔安全主體責任，建立反電信網絡詐騙內部風險防控機制和安全責任制度。

對於不斷利用新科技武裝自己的電信詐騙，該法同樣要求各方拿出技術上的“武器”。法律規定，國務院公安部門、金融管理部門、電信主管部門和國家網信部門等應當統籌負責本行業領域反制技術措施建設，推進涉電信網絡詐騙樣本信息數據共享，可以説是在法律層面肯定了技術防詐的路線。

AI反詐，用魔法打敗魔法

在《反電信網絡詐騙法》頒佈之前，公安部、工信部、中國人民銀行等部門就已經推出了包括國家反詐中心App、96110預警勸阻專線、12381涉詐預警勸阻短信系統、雲閃付App“一鍵查卡”等在內的各種“防詐利器”。

數據顯示，2021年，公安機關利用反詐技術共緊急止付羣眾被騙款達3291億元；工信部12381涉詐預警勸阻短信系統首次實現對潛在被騙用户的短信實時預警，勸阻準確率達60%以上。

企業同樣在積極跟進。面對不斷“進化”的電信詐騙，他們以人工智能為發力點，嘗試“用魔法打敗魔法”，即用反詐的人工智能來對抗詐騙的人工智能。

像中科院聲學所團隊創立的聲智科技開發了AI反詐外呼數字人，每天能撥出去六七萬通勸阻電話；搜索巨頭百度推出基於AI技術的深偽檢測平台，對於各種人臉識別、語音識別有99%以上的準確率。

移動支付巨頭支付寶最近也有大動作。在本月的世界人工智能大會上，螞蟻集團的“智能風險感知與響應聯合反詐系統”拿下大會最高獎項。螞蟻方面的人員向觀察者網表示，他們這套系統每天會用電話、彈窗提示、防詐騙答題等方法聯繫到40萬被認為是電詐受害者的用户，牽扯的金額達2千萬，其中有8萬用户會收到系統撥出的AI電話，這種AI電話有着20%-30%的完播率，收到電話後，七八成的人會放棄當前的轉賬、付款行為，如果是老年人，放棄轉賬的幾率可以提升到90%。

這套反詐系統目前已應用於支付寶及其合作伙伴。根據螞蟻集團發佈《2021反詐騙治理年度報告》，過去一年，支付寶平台內詐騙案件量及欺詐資損下降約4成，其中“註銷校園貸”等新興騙局治理效果顯著，資損下降85%；AI系統已能自動識別50餘種詐騙手法，通過技術支持，向公安機關移交高危預警線索79萬條，協助全國一線反詐民警勸阻保護潛在被騙資金9.9億元。

反詐AI可信嗎？

但是，將AI投入反詐“戰場”也帶來了另一個問題——如何確保這個AI可信？

通常來講，評估AI是否可信有四點，即穩定性（也叫魯棒性）、可解釋性、隱私保護和公平性。在月初世界人工智能大會的可信AI論壇上，京東探索研究院院長陶大程對此做了簡單的介紹，穩定性強調的是AI系統要能夠對抗各類環境噪聲以及外部的攻擊；可解釋性指的是AI系統的預測決策是否透明，能否被人們總結出來；隱私保護考慮的是AI系統在運作的同時能否有效保護用户隱私不會被泄露；公平性則是指AI在不斷區分、評判各種事物的時候是否會形成對某種標籤甚至是人的歧視。

主辦方供圖

在反欺詐這種場景下，AI想讓自己可信無疑更加複雜。

清華大學網絡研究院特別研究員邱寒在一篇文章中指出，僅僅從支付操作本身，很難區分出是否被騙，因為支付操作往往是賬户本人在操作；另外，詐騙和反詐騙是一個鬥智鬥勇的過程，如果碰上騙子們量身定製的“劇本洗腦”，即使能夠識別與攔截單筆交易支付，受騙方往往會選擇換其他的方式繼續轉賬；不僅如此，虛擬貨幣、遠程操控、雲語音呼叫等一系列新技術的加入，往往會使反詐超越AI範疇，成為一場全方位的技術對決。

螞蟻集團風控總監王維強給出了評判一個AI模型可信性的三個標準——首先看它的打擾率和準確率，即不能把正常用户判斷為風險用户，把他們正常的交易行為給否掉；其次看它的魯棒性，也就是抗打擊能力，因為騙子在詐騙過程中會不斷變換手法，所以一個可信AI的識別率必須要保持一個比較高的精準度；最後就是可解釋性，因為只有AI的決策能夠被大家理解，那些風險用户們才會願意同AI系統進行溝通，從而為接下來的“喚醒”做準備。

王維強

在本屆可信AI論壇上，王維強再次強調了可解釋性的重要性，並表示除了讓人更好地理解模型，讓模型更好地理解人也是條不錯的技術路徑。除此之外，他還提到螞蟻正在嘗試探索讓AI去學習一些邏輯，從而對用户的交流做出一些判斷。另外，作為一家已經將可信AI投入應用的企業，王維強表示除了魯棒性、可解釋性、隱私保護和公平性，在實際應用落地的過程中可信AI同樣離不開數據、平台和運營。

公開信息顯示，螞蟻集團自2015年起投入可信AI技術的研究，從2016年起搭建“可信AI”技術框架，並在同一年全面啓動了人工智能風控防禦戰略。在本屆大會上，螞蟻集團副總裁、首席技術安全官韋韜表示：“只有人工智能技術的發展和安全達到有機融合，才能以高水平安全助力高質量發展。從螞蟻的實踐來看，推動AI智能+專家智能的融合協同，是實現人工智能在高安全對抗領域實現安全可信的關鍵路徑，”

本文系觀察者網獨家稿件，未經授權，不得轉載。