360杜躍進WAIC演講：開放創新，護航數據與AI安全

在近期舉辦的世界人工智能大會上，《數據安全法》引起熱議。“比起石油或者黃金來説，數據更像全球數字時代的血液，數據安全重要性不言而喻。”360集團副總裁、首席安全官杜躍進作了題為“數據與人工智能安全”的演講。他表示，未來數字世界的三大基礎是數據、智能（軟件、計算）與網絡，三者缺一不可構成數字時代，而數字時代則對安全提出了更大挑戰，其中，數據安全和AI安全，是兩個新的、相互關聯的基礎性安全領域，需要廣泛協作與開放創新來解決其中的安全問題。

作為國內網安龍頭，三六零(下稱“360”)還攜智能汽車、人臉識別、觸控一體機、IoT等人工智能和網絡安全前沿產品，集體亮相此次世界人工智能大會。

杜躍進指出，AI安全可以用“七宗罪”來形容，包括硬件、軟件、協議、算法、數據、應用與社會。具體來説，硬件層面，人工智能元器件在物理層面缺乏安全設計；軟件層面，任何軟件都有漏洞；協議層面，很多專用通信協議設計缺乏安全考慮；算法層面，算法本身可以被欺騙、誤導；數據層面，數據有可能被污染，被“投毒”；應用層面，人工智能技術可能被用於危害人類利益；社會層面，人工智能技術簡單化地應用於解決社會問題，可能導致事與願違。

以應用越來越廣泛的人臉識別設備為例，“我們的AI安全研究團隊總共分析了7個廠商的7款人臉識別設備，發現每台設備都有問題，包括存在後門、流量重放實現登錄，DLL劫持、APK組件泄露隱私信息、低權限實現開門控制，模型文件泄露、服務端口開放、未授權訪問等等。” 杜躍進舉例説，360曾做過一次實驗，可利用一台人臉識別設備的漏洞攻擊算法模型，令其將小熊玩偶識別為人臉，並通過驗證。

為此，360 AI安全實驗室長期致力於研究人工智能基礎設施領域的安全問題，目前共發現了150多個機器學習框架及供應鏈漏洞，涉及被廣泛使用的Tensorflow，Caffe，PyTorch等主流深度學習開源框架，這些漏洞可造成任意代碼執行、拒絕服務攻擊、信息泄露等危害。

此外，風口上的智能汽車中也存在安全漏洞。“研究發現一些車輛可以通過互聯網直接控制，比如突然開啓車門、遠程發動。”杜躍進表示。據悉，360 Sky-Go團隊發現梅賽德斯-奔馳19個安全漏洞，利用漏洞可以構造攻擊鏈，可以實現對多個系列200餘萬輛奔馳汽車的電力、動力系統的遠程無接觸控制，其控制場景包括對前後車門、車窗、車前燈、雨刷器的開啓關閉。

“數據安全，是當前最恐慌、最混亂的新問題。”在杜躍進看來，數據安全不僅是傳統的數據文件保密、數字版權保護、數據庫安全，也不僅是大數據平台的安全，而是大數據和智能化時代下，從不同視角關注的數據防竊取/破壞、防濫用、防誤用三大問題。

具體來説，數據破壞，即黑客潛入其他主體的電腦，對文件加密、竊取或者刪除；數據濫用，即用户的個人隱私和信息在別人手裏，對方未經許可訪問這些敏感信息；數據誤用，即擁有大數據的主體對大數據的使用方法不當，導致用户權益受損。

不同角色視角下，數據安全面臨不同的問題。杜躍進表示，對於個人來説，數據安全涉及隱私問題、不公正問題等，其中最典型的例子是大數據殺熟；對於企業和機構來説，數據安全則涉及資產損失、知識產權、利益分配、跨組織流動時的風險控制與合規要求；對於國家來説，數據安全則涉及國家安全問題。

對於如何解決數據與人工智能安全問題，杜躍進表示，“沒有成熟方案，只有最佳方法，即廣泛協作、開放創新。” 因此，具體技術還需要迭代創新，而且在基本方法上要以數據為中心，以組織為單位，以能力成熟度為抓手；要從傳統的管理體系轉向社會化治理體系來應對解決；要建立複合機制，從只有處罰，轉變為處罰、幫助、獎勵並舉。

最後，杜躍進表示，數字經濟還在快速發展變化中，因此，解決數據安全問題不能閉門造車，一定要從產業中來，到產業中去，在產業實踐中找問題，找方法，並不斷迭代和完善。