兩項成果入選人工智能安全典型實踐案例 360助力構建AI生態

10月12日，2021年國家網絡安全宣傳週人工智能安全產業發展分論壇在西安成功舉辦。在論壇現場，由中國網絡空間安全協會組織評選的“人工智能安全典型實踐案例”正式公佈。三六零集團(股票代碼：601360.SH,以下簡稱“360”)所提報的“360人工智能框架漏洞威脅感知系統”、“360新一代終端安全智能防護系統”兩款產品在眾多案例中脱穎而出，入選為2021年人工智能安全典型實踐案例。

數字化時代，人工智能成為新一輪科技革命和產業變革的核心驅動力，但同時也帶來新安全治理挑戰。360集團AI安全實驗室負責人鄒權臣在論壇主旨演講中指出，“機器學習框架是人工智能基礎設施的核心，當前框架安全檢測缺少面向框架安全的、有針對性、系統性的自動化檢測工具，一旦被惡意攻擊，將會影響數以千萬計的開發者以及用户。”

作為數字經濟的守護者，360依託在安全大數據、攻防專家團隊等優勢，融合人工智能與安全自主研發了360人工智能框架漏洞威脅感知系統，該系統能夠從算法實現、漏洞類型、編譯優化等多角度持續開展對機器學習框架的安全風險研究，並採用動、靜結合的分析方法對Python、C++、Go等不同語言中的不同漏洞類型進行全面系統的檢測，檢測過程着重關注從訓練到推理、從數據到模型、從雲端到終端過程中存在的安全風險。此外，該系統基於豐富的安全專家知識庫，能夠提供對AI框架業務的定製化檢測，如對計算圖優化、圖編譯、分佈並行等模塊的安全性檢測。

近期，360人工智能框架漏洞威脅感知系統對國內外主流開源AI框架進行了安全性評測，累計7款機器學習框架(如Tensorflow、PyTorch等)漏洞150+個，框架供應鏈漏洞200+個，並幫助各廠商對漏洞進行了修復。值得一提的是，360 AI安全實驗室已經累計發現並幫助谷歌修復Tensorflow漏洞98個(CVE)，其中高危、嚴重漏洞共24個，在數量上均位列全球首位。

據介紹，360 AI安全實驗室專注於人工智能與安全前沿技術研究，發現AI框架、智能設備、AI應用等多維度AI系統安全風險，並提供安全評測和防護服務；開展AI賦能網絡安全的研究工作，致力於應用AI技術在惡意代碼識別、流量分析、漏洞挖掘等重要場景中取得突破性進展。

鄒權臣在論壇最後強調，360 AI實驗室還承擔了由科技部批覆、360集團承建的“安全大腦國家新一代人工智能開放創新平台”的建設工作。該平台致力於解決人工智能系統安全風險、人工智能在網絡安全領域創新成果落地難以及創新環境匱乏等問題。未來，360將通過平台運營，建立人工智能與安全開放創新體系，實現核心研究成果的對接與轉化，推動產業健康快速發展。