360首席安全官杜躍進：打造“人工智能+安全”國家級開放創新平台

近日，360集團首席安全官杜躍進受邀參加在蘇州舉辦的2020全球人工智能產品應用博覽會(AIExpo2020)，在開放創新平台高峯論壇上做了“安全大腦開放創新平台”的主題分享。他指出，人工智能安全風險超乎想象。為應對人工智能帶來的安全挑戰，360將利用自身在安全大數據、攻防專家團隊等方面的優勢，融合人工智能與安全，與合作伙伴們一起，打造國家級開放創新平台。

面對2020年的諸多挑戰，人工智能迎來了應用落地發展的時代契機。360集團首席安全官杜躍進在分享中指出，數字化時代，人工智能是核心驅動力。但人工智能在賦能各產業的同時，也會帶來新的安全治理挑戰。

人工智能本身的安全威脅，杜躍進將其進行了總結，從最底層的硬件傳感器、芯片的設計到軟件本身，包括硬件、軟件、協議、數據、算法、應用動機、倫理等七大方面，都面臨安全風險。一是硬件層面。很多人工智能元器件在物理層面缺乏安全保障，哪怕只有一段線路沒有進行電磁屏蔽，也給物理干擾留下機會。二是軟件層面。任何軟件都有漏洞，它們可以被攻擊者利用，來實現代碼執行、拒絕服務攻擊、控制流劫持、信息泄露等目標。三是協議層面。很多專用通信協議設計缺乏安全考慮。四是數據層面。大數據時代有一個“黑箱悖論”，人工智能離不開數據，但數據本身有可能被污染，這樣的人工智能就好像被“投毒”。五是業務層面，算法本身可以被欺騙、誤導，當人工智能越來越多用於控制相關業務時，可能會產生致命性影響。六是應用動機層面。壞人有可能更早、更深地看到人工智能帶來的機會。如今，除了人工智能，在生物科技等很多前沿技術領域都有這樣的傾向，值得警惕。七是機制設計層面。模式設計考慮不充分，將導致事與願違，可能產生非常嚴重的後果。他強調，在壞人手中的人工智能，可以高效的用於安全攻擊，會對安全防護帶來更大的挑戰。但同時，人工智能也可以用於安全問題的解決。

需要注意的是，目前人工智能在安全領域的創新和應用落地存在很大的差距，人工智能安全研究創新環境缺失，同時自身也缺乏系統化的安全評測。因此，360目前正為構建人工智能開源軟硬件技術平台和智能安全檢測平台提供技術儲備，包括建立開放協同的人工智能科技創新體系，以及促進網絡安全產業的升級。360安全大腦開放創新平台的目標是通過建設共性技術平台、開放安全大數據、人工智能安全攻防資源庫等，建立開放服務機制，為產業鏈和創新鏈上下游單位提供開放資源，促進人工智能行業持續、健康、快速發展。

演講的最後，杜躍進表示，360將通過安全大腦賦能行業，解決高級別安全對抗的問題。同時，也將通過工業互聯網安全研究院，結合人工智能解決工業互聯網安全問題。