2020世界人工智能大會 | 觀安信息助力構建人工智能安全體系_風聞

7月10日,2020世界人工智能安全高端對話在上海世博中心舉行。作為2020年世界人工智能大會主題論壇,安全高端對話以“在線經濟,安全賦能”為主題,由世界人工智能大會組委會主辦,賽博研究院承辦,觀安信息、騰訊安全戰略研究部、上海社會科學院互聯網研究中心協辦。

本次2020世界人工智能安全高端對話有中國科學院院士何積豐,上海市委網信辦總工程師楊海軍,上海市經信委軟件和信息服務業處處長劉山泉等多維領導出席。

中國科學院院士何積豐

安全高端對話上,賽博研究院和觀安信息還共同發佈了《人工智能數據安全治理報告》。報告分析了數據採集、數據處理、數據流動和數據使用階段突出的數據安全問題,結合當前全球人工智能數據安全治理現狀和動態,構建了綜合性的人工智能數據安全治理框架。此外,本次安全高端對話還啓動了“人工智能數據安全風險評估平台”。該平台在上海市人工智能產業安全專家諮詢委員會的指導下,由觀安信息發起,旨在實現人工智能場景中的數據安全實現多層級風險評估,推動人工智能產業健康發展。

中國工程院院士倪光南

上海市委網信辦總工程師楊海軍

護航人工智能安全應用,啓動人工智能數據安全風險評估平台

作為適用於通用場景的企業級解決方案,人工智能數據安全風險評估平台在本次世界人工智能大會上正式啓動。該平台在上海市人工智能產業安全專家諮詢委員會的指導下,由觀安信息發起,專委會主任何積豐院士、上海市委網信辦總工程師楊海軍、上海市經信委軟件和信息服務業處處長劉山泉與觀安信息首席專家張照龍共同啓動。

人工智能數據安全風險評估平台包括風險評估、數據集管理、知識庫管理、威脅情報等功能,用於對特定人工智能應用場景中的數據安全風險進行總體評估和評級,以及數據集管理和知識庫建設。

該平台設定了安全基線,開發用於敏感數據探測、數據質量檢測、數據差異檢測、漏洞檢測以及脆弱性檢測的工具。基於檢測工具彙集的數據實現數據安全風險信息實時收集、自動推送、智能分析、量化評估與診斷分級。針對人工智能應用場景中的數據安全實現多層級、多維度風險評估,為企業對人工智能系統開展自評以及第三方測評機構針對人工智能項目開展風險評估和產品認證提供技術、工具和平台。

在完善和優化數據安全風險檢測的基礎上,該平台利用數據積累形成的數據資源池,根據不斷變化的應用場景需求,構造用於各類人工智能模型的訓練、測試及驗證標準數據集。此外,平台還建設了人工智能數據安全知識庫及威脅情報庫。

人工智能數據安全風險評估平台將為智慧城市、智慧金融、智慧醫療、智能網聯汽車等人工智能重點應用領域,研究和制定數據安全標準規範,開發用於敏感數據探測、數據質量檢測盒數據差異檢測的相關工具,為企業對人工智能系統開展自評以及第三方測評機構提供相關評估參照。

“智聯世界 共同家園”,今年世界人工智能大會的鮮明主題,昭示着智能在聯結世界,聯結未來。本次人工智能數據安全風險評估平台的啓動,是人工智能數據安全標準規範和人工智能數據安全風險評估平台在全球範圍內的先驅性、創新性嘗試,其對於未來在人工智能數據安全領域所開展的風險評估及數據質量檢測及其他相關項目的開展提供了足備的開路價值和參考價值,為人工智能數據安全邁出了跨越式、創造性的一步!

觀安信息首席專家張照龍先生接受記者採訪

在接受澎湃網記者的採訪中,觀安信息首席專家、上海市公共數據標準化技術委員會專家成員張照龍重點闡述了當前人工智能數據安全保護的實施背景及其必要性。張照龍強調,數據作為國家基本生產要素,各行業需要明確其自身價值和實用價值,要將數據變成真正資本化的要素。

作為上海市公共數據專委會專家成員,張照龍對業界提出建議:各行業領域均需加強對數據安全問題的重視程度,加強企業自身及公共數據相關的數據保障建設。

數智安全 理創未來——人工智能數據安全治理

觀安信息CTO胡紹勇

觀安信息CTO胡紹勇在“數智安全 理創未來——人工智能數據安全治理”主體演講中就當前階段人工智能安全治理現狀及治理解決方案展開分析。胡紹勇表示,現階段全球人工智能發展正在逐步度過“探索期”並進入“成長期”,進入了發展全面轉型的關鍵節點:在於人工智能專用技術的迅速突破;在於人工智能產業生態的蔚然成型;在於人工智能投融資的日趨理性成熟;在於人工智能應用場景的向深層拓展。與此同時數據安全也將於人工智能的發展更加深度地交織在一起,胡紹勇強調,數據安全問題已然成為人工智能突破關鍵轉軌期所必須解決的重要制約瓶頸。

演講中,胡紹勇分別從面臨的嚴峻數據安全問題、各國立法模式、全球人工智能數據安全標準化制定及各界對人工智能數據安全前沿技術的拓展與實踐等角度介紹了當前全球人工智能數據安全的治理現狀,並從治理思路、治理原則、治理路徑三個層面向在座與會人員細緻闡述了我國人工智能數據安全治理框架構建情況。

胡紹勇強調,當前我國乃至全球人工智能領域都處於高速發展且成長空間巨大的轉型階段,面對差異巨大、場景各異的人工智能技術應用背景,應當切實、具象性地構建數據安全防禦體系,針對不同技術應用場景和需求場景,應當準確設立針對性、高適用性的技術功能模塊體系。

聯合發佈《人工智能數據安全治理報告》

觀安信息與賽博研究院聯合發佈的《人工智能數據安全治理報告》強調要在人工智能的動態發展中實現對數據安全風險整體的可知可控、確保人工智能數據在採集、標註、處理、存儲、流動、共享和場景應用的全生命週期安全,不斷提高人工智能企業的數據安全能力,增強人工智能數據安全供給鏈的連續性和可用性。

此外,報告還為企業提供了通用場景和若干具體場景下的人工智能數據安全技術解決方案,即智能網聯汽車、人臉識別和工業物聯網三個發展前景廣闊的數據安全重點領域。

隨着智慧城市、工業互聯網、自動駕駛等人工智能實用技術的逐漸落地、普及,數據安全化、技術規範化、行業標準化、法規健全化將是未來人工智能發展的核心要求。制定統一的數據安全監測標準、數據安全防範架構、數據安全評估體系需要多方參與共同協調,網絡空間安全將成為人工智能多領域間合作的重要領域。未來,隨着人工智能技術的日趨成熟,人工智能數據安全將逐步成為一項需持續維護建設、持續推進發展的長遠工作。