百度安全七大技術亮相 BASS下一代AI安全技術棧護航AI生態

9月4日，2018 ABC SUMMIT百度雲智峯會在上海正式開幕。“AI安全與安全生態“安全分論壇上，百度安全正式發佈下一代人工智能安全技術棧（Baidu AI Security Stack，簡稱BASS）。百度首席安全科學家韋韜博士闡述了百度安全探索AI時代下安全生態建設的核心理念與關鍵技術。

“技術變革起源於理念變革”，韋韜博士指出：“安全的核心是對抗，對抗是持續的、跨維度的。歷史一而再、再而三的告訴我們，安全沒有Silver bullet。”安全涉及技術、人性、生態，本質上是一個複雜巨系統，要應對AI時代的挑戰，首先要有新的理念體系。

AI催生產業格局深刻變革，安全挑戰亟待新思路

新技術、新業態催生了傳統網絡安全格局的深刻變革。伴隨移動互聯網，大數據、雲計算、人工智能等新一代信息技術的快速發展，圍繞網絡和數據的服務與應用呈現爆發式增長，智能設備將無所不在，智能家居、無人車、物聯網將滲透到人類社會的各個角落，豐富的應用場景下暴露出越來越多的網絡安全風險和問題，在全球範圍內產生廣泛而深遠的影響。人身安全、數據安全與隱私面臨着全新挑戰，對互聯網發展與治理帶來巨大的挑戰。

不僅如此，主流機器學習框架經常被爆出存在安全漏洞，包括傳統內存安全漏洞，以及新興的對抗樣本攻擊漏洞。這些漏洞會導致AI系統的輸出結果被攻擊者任意控制，甚至導致系統自身被攻擊者控制。關於AI本身的安全性變得前所未有的重要，並超乎我們傳統對於安全邊界與框架的認知範疇。

此外，傳統的系統安全頑疾到了AI時代將更加集中的爆發。基於IoT的各類智能系統在芯片種類、終端廠商數量、操作系統種類，產品形態種類等方面的不同，“生態碎片化”導致了智能設備中N-day安全漏洞失控，被黑產肆意利用；同時，“C語言魔咒”導致了大規模複雜系統長期維護中不可避免地出現高危內存漏洞，危及生命財產安全。

韋韜博士指出，現有的安全技術有着本質上的缺陷，難以應對AI時代的安全挑戰。

七大開源技術集中亮相，圍繞雲管端展開實踐

面對AI時代層出不窮且日益複雜的生態安全問題，百度安全始終倡導通過新一代技術研發與開源，實現對安全問題的快速響應與對抗，以及安全防護的層次化，迄今已實現多項AI安全核心技術的突破。在本次雲智峯會安全分論壇上，百度安全正式發佈下一代人工智能安全技術棧（Baidu AI Security Stack，簡稱BASS），其高安全可驗證系統架構目前已實現雲管端的全方位覆蓋，OASES KARMA系統自適應熱修復技術、OpenRASP下一代雲端安全防護系統、MesaLock Linux內存安全操作系統、MesaLink TLS下一代安全通信庫、MesaTEE下一代可信安全計算服務框架、AdvBox AI模型攻防工具包、HugeGraph大規模圖數據庫等七大開源技術已面向生態開源，為AI安全生態提供全方位技術保障。

在百度安全探索AI生態安全問題的過程中，BASS下一代AI安全技術棧已經在諸多領域展開實踐。例如，OASES KARMA自適應系統熱修復技術已經廣泛嵌入到智能電視、智能手機的系統層中，改變了以往安卓操作系統需要依靠廠商定期提供更新才能修補漏洞的方式。AdvBox對抗樣本工具包針對AI算法模型提供安全性研究和解決方案，目前已應用於百度深度學習開源平台PaddlePaddle。

本次發佈的百度安全開源大規模圖數據庫HugeGraph在實踐過程中，也得到了極好的證明。其在安全反欺詐、知識圖譜、機器學習中發揮着重要作用，目前已廣泛應用到網址安全檢測、威脅情報分析、業務風控、數據安全治理中，其所提供的關聯分析圖譜，能從看似雜亂無章的關係中尋找到網絡黑產的脈絡，在百度安全協助公安機關破獲多起電信詐騙、偽基站、流量劫持、用户隱私竊取等重大黑產案件中，提供了打擊溯源的核心能力，全方位實現從警務數據整合到分析挖掘，助力智慧公安新業態，踐行企業社會責任。BASS下一代人工智能安全技術棧將協同七大開源技術持續為AI時代護航。

構建生態支點，百度安全探索AI安全時代理念體系

會議現場，韋韜博士借用了傳統道家真言中的五個字來描述百度下一代AI安全技術棧BASS的理念體系：

“鬥”，指對抗，特別指能夠支持碎片化生態自適應快速響應的對抗能力。在此方面百度安全的實踐包括OASES KARMA系統自適應熱修復技術、OpenRASP雲端自適應安全防護技術、BOTA安全在線升級系統等，在業界已經有了廣泛應用與盛譽；

“陣”，指利用百度安全實驗室獨創的Hybrid Memory Safety(HMS)技術，構造完整的內存安全系統，並在其上利用Non-bypassable Security Paradigm（NbSP）等可擴展形式化驗證技術保障整體應用的安全性，以構建堅實的防禦陣地。百度安全實驗室的MesaLock Linux、MesaLink TLS、MesaPy等開源項目提供了國際上第一套HMS安全操作系統、通信庫及Python實現，被安全業界高度評價；

“臨”，在道家真言中指“事具不動不惑之意志”，在此為陣的根基。特指以Intel SGX為代表的下一代TCB技術，這成為高安全系統的遠程分佈式計算安全保障的基石。為了對抗側信道攻擊，BASS提供了TPM 2.0/MesaLock Linux/MesaTEE SGX的縱深防禦體系，提供迄今為止最強的安全防護；

“兵”，指人性、化簡、超越。人是會犯錯的，人蔘與越多，漏洞越多。七分管理三分技術是AI時代之前安全的無奈選擇。在大數據與AI時代，靠人已經無法應對複雜度爆炸的系統與組織的安全保障需求。為此，新安全技術棧需要首先將安全問題化簡，將讓安全專家聚焦在最關鍵的核心環節上；其次，需要充分利用和保障AI技術來超越純人工的安全管理。在這個領域，BASS提供了MesaTEE，重構雲上信任機制，極大的簡化了數據安全管理的信任鏈條；BASS的AdvBox與HugeGraph也為AI與大數據安全應用提供了強有力的支撐；

“皆”，指開源、標準化與生態共建。AI時代，一個顯著的特徵是每個企業都強依賴於供應鏈。此時，安全上沒有企業能獨善其身，安全必須要整個生態的努力。BASS開源了七大安全技術，是希望與生態共建，迅速提升AI新興產業的安全水平，避免重蹈移動時代詐騙高發的覆轍，形成產業共贏。

BASS下一代AI安全技術已經成為AI安全生態的重要支點。據悉，BASS未來將持續釋放開源技術，形成支撐起AI安全生態的核心技術棧，在這個過程中，實現由傳統安全時代的強管理向AI時代的強技術支撐下的核心管理的轉變：首先利用革命性新安全技術簡化和重鑄基礎技術體系和網絡信任機制，在此基礎之上再利用大數據和人工智能技術，將原本依賴大量人力運維的安全體系標準化和自動化，顯著提升安全運營和管理工作的效率和效果。

從新一代安全技術的研發與開源，到為行業提供一體化安全解決方案，再到促進學術、企業、機構間多層面協作，百度安全正在升級打造AI時代的安全生態，用ABC策略直擊AI安全時代焦慮，打破產業隔閡，避免生態碎片化，以此推動AI時代的安全生態建設。（作者：陳蕊）