陳根：從人工智能到人工智障，應對安全風險在路上_風聞

文/陳根

歷史表明，網絡安全威脅隨着新的技術進步而增加。關係數據庫帶來了SQL注入攻擊，Web腳本編程語言助長了跨站點腳本攻擊，物聯網設備開闢了創建殭屍網絡的新方法。

而互聯網打開了潘多拉盒子的數字安全弊病，社交媒體創造了通過微目標內容分發來操縱人們的新方法，並且更容易收到網絡釣魚攻擊的信息，比特幣使得加密Ransomware勒索軟件攻擊成為可能。

**近年來網絡安全事件不斷曝光，新型攻擊手段層出不窮，安全漏洞和惡意軟件數量更是不斷增長。**2019年VulnDB和CVE收錄的安全漏洞均超過了15000條，平均每月高達1200條以上，2019年CNCERT全年捕獲計算機惡意程序樣本數量超過6200萬個，日均傳播次數達824萬餘次，涉及計算機惡意程序家族66萬餘個。

根據研究集團IDC的數據，到2025年聯網設備的數量預計將增長到420億台；有鑑於此，社會正在進入“超數據”時代。於是，在數據算法大行其道，人工智能方興未艾的今天，我們也迎來了新一輪安全威脅。

先想象一個超現實場景：未來的恐怖襲擊是一場不需要炸彈、鈾或者生化武器的襲擊，想要完成一場恐怖襲擊，恐怖分子們只需要一些膠布和一雙健步鞋，通過把一小塊膠布粘貼到十字路口的交通信號燈上，恐怖分子就可以讓自動駕駛汽車將紅燈識別為綠燈，從而造成交通事故。

要了解人工智能的獨特攻擊，需要先理解人工智能領域的深度學習，深度學習是機器學習的一個子集，其中，軟件通過檢查和比較大量數據來創建自己的邏輯，機器學習已存在很長時間，但深度學習在過去幾年才開始流行。

人工神經網絡是深度學習算法的基礎結構，大致模仿人類大腦的物理結構。與傳統的軟件開發方法相反，傳統軟件開發需要程序員編寫定義應用程序行為的規則，而神經網絡則通過閲讀大量示例創建自己的行為規則。

當你為神經網絡提供訓練樣例時，它會通過人工神經元層運行它，然後調整它們的內部參數，以便能夠對具有相似屬性的未來數據進行分類。這對於手動編碼軟件來説是非常困難的，但神經網絡卻非常有用。

但由於神經網絡過分依賴數據，從而引導了神經網絡的犯錯，一些錯誤對人類來説似乎是完全不合邏輯甚至是愚蠢的，人工智能也由此變成了人工智障。例如，2018年英國大都會警察局用來檢測和標記虐待兒童圖片的人工智能軟件就錯誤地將沙丘圖片標記為裸體。

當這些錯誤伴隨着神經網絡而存在，人工智能算法帶來的引以為傲的“深度學習方式”，就成了敵人得以攻擊和操控它們的途徑。於是，在我們看來僅僅是被輕微污損的紅燈信號，對於人工智能系統而言則可能已經變成了綠燈，這也被稱為人工智能的對抗性攻擊，即引導了神經網絡產生非理性錯誤的輸入，強調了深度學習和人類思維的功能的根本差異。

此外，對抗性攻擊還可以欺騙GPS誤導船隻、誤導自動駕駛車輛、修改人工智能驅動的導彈目標等，對抗攻擊對人工智能系統在關鍵領域的應用已經構成了真正的威脅。