防止被AI欺騙，是如何成為一門產業的？_風聞

文丨智能相對論

作者丨陳選濱

科學技術是把雙刃劍，在為我們生活帶來便利的同時，也在引發一系列的社會問題，比如當前比較熱門的AI人臉識別詐騙、聲紋識別欺騙等。

在今年的淨網2021專項行動中，南通警方就破獲了一起AI人臉識別詐騙案件。據官方介紹，該犯罪團伙主要利用AI軟件偽造人臉識別認證來解綁用户賬號，再以低廉的價格將賬號賣給下游的詐騙份子，從而非法牟利。

除了“人臉”之外，“聲音”也同樣可以藉助AI技術進行克隆模仿。國外就有一個犯罪團伙利用人工智能語音生成軟件，成功模仿並冒充一家英國能源公司的德國母公司CEO，來欺騙其多位同事和合作伙伴，非法牟利約173萬人民幣，令人咋舌。

因此，在當前，反AI欺詐基本已經成為一個社會性的問題，如何以“魔法打敗魔法”，用技術手段來解決技術問題，是市場和行業共同努力的方向。特別是在AI應用越來越普遍的國內市場，更多的企業投身於專業技術領域，正在用更領先的技術能力來壘砌反AI欺詐的圍牆。

比如，前不久，中關村科金就在FaceForensics++Benchmark（國際知名深度偽造學術榜單）通過基於自有億級海量圖片訓練的人臉識別算法和獨有的AI技術將綜合準確率提升至94.1%，成功登頂榜首，將我國的深度偽造防偽能力再提升一個段位，處於國際領先水平。

所謂深度偽造技術是指通過人工智能技術將一個人（比如目標公司的CEO）視頻中的頭像幾乎完美嫁接到另一個視頻中的人（比如假的演員）身上。這樣的技術如果往壞的方向應用就很容易構成文章開篇所説的欺詐案件，但是如果往好的方向應用，那將是反AI欺詐工程的重要技術支持。

**反AI欺詐，便是目前中關村科金致力於產業賦能的一個技術應用方向。**技術本身就帶有天然的辯證性，當AI欺詐越來越普遍，反AI欺詐實際也正在逐漸形成一個產業，只是外界關注得並不多，而正在與非法份子角力的也多是一些專精企業，而非巨頭。

AI欺詐與反欺詐角力，引領產業機遇的卻不是“傳統”AI巨頭？

目前，AI欺詐案件很普遍，方式也是多種多樣，偽造郵件、克隆聲音、電話詐騙、人臉偽造等等層出不窮。

聚焦來看，這些AI詐騙的核心就是利用先進的人工智能技術來偽造聲音、筆跡、人臉等特徵，來獲取受害者的信任從而實現牟利。

這樣的方式相比以往的詐騙，就存在非常明顯的技術優勢——在AI技術的加持下，偽造的“真實性”更強，不僅是人，甚至連某些終端設備的攝像頭、傳感器都能騙過，可謂防不勝防。

因此，面對這種情況，簡單的呼籲和提高反詐騙意識是不夠，必須得利用技術手段來預防、解決。比如，國外的信息安全服務商Symantec就計劃用區塊鏈和IP語音（VoIP）呼叫的方法來辨別來電者的真實性，減少AI偽造詐騙電話。

在國內，類似的技術應用與推廣也在開展，中國信通院就在牽頭組織“護臉計劃”成員加速相關技術的進步和應用落地。其中，成員之一的中關村科金依託強大的AI算法能力和人臉防偽技術正在助力銀行、保險、證券、信託、教育等行業實現智能化安全升級，規避AI欺詐風險。

在這個過程中，反AI欺詐依託較高的技術門檻以及規模化的應用，正逐步發展成為一個典型的“專精特新”產業。

**值得一提的是，在這個新產業，引領發展的往往並非是傳統意義上AI巨頭，而是一些深耕單一技術領域的專精企業。**這不難理解，AI欺詐與反AI欺詐之間的拉鋸大多是對應某一單一技術領域的角力，“正義”的一方必然需要更專業、強大的技術能力。

因此，進入這一領域的服務商必須要有過硬的技術能力，比如中關村科金，除了人臉識別技術之外，其聲紋識別能力同樣榮獲了國際權威聲紋識別賽事VoxSRC2021的Trick1和Trick2兩個賽道雙榜第二名，達到國際領先水平。

**憑藉人工智能技術展現出來的技術實力以及市場潛力，中關村科金同時也榮獲了2021北京市專精特新“小巨人”企業稱號。**而在反AI欺詐這個賽道內，往往就是這樣的小巨人企業憑藉着技術的專注性做出了優勢，引領着產業的方向。

三個動作，反AI欺詐走向產業突圍

在中國信通院牽頭組織的“可信AI：人臉識別評估”活動中，順利通過本次評估且系統安全防護能力達到優秀級的企業就有中關村科金、雲從科技等這樣專注AI領域的玩家。

如今，信息安全早已成為一個較為成熟的產業，反AI欺詐只是其中的一種表現，市場和行業正在從各個層面來增強整體的防護能力。聚焦中關村科金這樣的小巨人企業以及“可信AI：人臉識別評估”類似的權威測評，我們可以看到較為清晰的三大行動趨勢。

設置比AI欺詐進攻路線更全面的“防禦工事”。

首先，面對AI欺詐等技術風險攻擊，只有做好從技術到產業的全面部署才能真正的有效做好防禦。

因此，在本次“可信AI：人臉識別評估”活動中，中國信通院就設置了各種主流的攻擊方式測評，如人臉識別系統抵禦電子屏攻擊、打印照片攻擊、挖孔照片攻擊、三維頭模攻擊、手機定製ROM注入攻擊等，全面、客觀地考驗企業的技術能力。

這種通過“技術來評估技術”的方法對應的正是“用技術手段來解決技術問題”的產業思路，一切的核心都在技術之上。通過這樣的活動將持續倒逼企業專注於技術進步，同時讓市場看到更多像中關村科金這樣的專精企業，促成產業合作將信息安全的“防禦工事”推動起來。

從擬真中快速獲取更豐富的防禦技巧。

其次，對於企業而言，做好信息安全更要有先“敵人”一步，先市場一截的意識。那麼，參與國內外的頂尖賽事和評估活動，很大程度上不僅能得到權威的背書，還能為技術應用創造一個擬真的場景，以獲取更豐富的防禦技巧。

本次FaceForensics++Benchmark榜單就為參賽團隊提出了極為困難的評估活動，其中換表情（NerualTexture、Face2Face）的深度偽造算法由於其微笑的編輯區域以及逼真的渲染技術，辨別真偽難度極大。

同樣的，在其他評估活動中也設置了基於行業頂級標準的門檻。正是在這種極為嚴苛的測試條件下，越能看到一家企業應對信息安全攻擊以及AI欺詐的技術能力。

經受現實場景的嚴苛考驗，明確技術應用方向。

最後，現實場景的應用也是必不可少的。比起擬真訓練，現實應用更能看到“敵人”的攻擊方式、攻擊意圖以及攻擊思維，從而明確技術的迭代方向。

目前，社會上就存在一種新的高科技犯罪思路：犯罪分子先是摸清行方的大額轉賬業務全部流程中可能涉及的填報信息，然後搭建紅包釣魚網站，引誘客户填報相關個人敏感信息。緊接着再使用專用的ROM劫持設備對行方系統進行攝像頭麥克風劫持，與客户進行視頻電話通信，引導客户進行相關點點頭、眨眨眼、張張嘴的操作，以此順利通過了行方的知識型個人信息校驗、生物型活體識別與人臉識別，實現非法牟利。

在這種情況下，市場上常規的動作活體技術的密碼空間相對狹小，兩輪動作也僅有幾十種可能性，非常容易被窮舉和傳遞誘導，因此很難做好防禦。因此，中關村科金正採用多模態生物防偽與安全平台中的數字活體技術進行加固，可以將密碼空間上升到幾十萬種，不僅要求在有限的時間內將動態密碼轉述給客户，還要求突破唇語校驗、語音校驗、音畫同步校驗。這樣就大大提高了犯罪分子的攻擊成本，從而保護客户的財產安全。

因此，從實際應用來看，現實場景的嚴苛考驗是非常關鍵的，只有越深入現實之中，才越能看清目前產業最需要解決的問題是什麼，技術應該怎麼賦能。

“魔”“道”較量，AI時代網絡安全藍海才剛剛開始

回過頭來説，欺詐與反欺詐本身就是一個相互拉鋸的事情，加持了AI技術也同樣如此。對於這樣一個“魔高一尺道高一丈”的過程，一般很難出現終局，現在也只是開場。

或許，很快又會有新的攻擊方式和技術手段出現，需要服務商不斷的應對，迭代自家技術，釋放產業價值。

我們可以看到的是，技術的進步必然會帶來更多的價值，一方面是防範安全的價值，另一方面則是應用優化的價值。

比如，中關村科金攜手某全國性股份制商業銀行打造的互聯網銷售可回溯系統，在保障互聯網產品銷售安全的同時，實際上也為銀行、客户等多方帶來了顯而易見的新價值——對於銀行，系統可對有效訂單信息回溯數據並進行算法壓縮+多重算法加密處理，保證回溯資料無損且安全，存儲效率高，成本低；對於客户，系統採用輕感知採集，無需進行過重操作，只需簡單操作便能看到整個互聯網產品的銷售過程，保障權益。據悉，該系統已合作銀行及保險機構近15家，其中超過3家通過了銀保監會駐點檢查。

由此可見，技術確實是一把雙刃劍，但是如果“好”的一面能夠用得好的話，不僅能給我們帶來安全可靠的保障，還能提供更為便捷高效的服務。

那麼，在這場“魔”與“道”的較量中，反AI欺詐也好，信息安全也罷，都不止於“防護”二字，而是更為遠大的目標，即更好地服務於生活、生產。

*本文圖片均來源於網絡

深挖智能這口井，同好添加vx：zenghy2017

此內容為【智能相對論】原創，

僅代表個人觀點，未經授權，任何人不得以任何方式使用，包括轉載、摘編、複製或建立鏡像。

部分圖片來自網絡，且未核實版權歸屬，不作為商業用途，如有侵犯，請作者與我們聯繫。

智能相對論（微信ID:aixdlun）：

•AI產業新媒體;

•今日頭條青雲計劃獲獎者TOP10;

•澎湃新聞科技榜單月度top5;

•文章長期“霸佔”鈦媒體熱門文章排行榜TOP10;

•著有《人工智能 十萬個為什麼》

•【重點關注領域】智能家電（含白電、黑電、智能手機、無人機等AIoT設備）、智能駕駛、AI+醫療、機器人、物聯網、AI+金融、AI+教育、AR/VR、雲計算、開發者以及背後的芯片、算法等。