這場論壇專家學者齊聚,探討數字時代如何應對網絡安全新挑戰
None

2023年國家網絡安全宣傳週上海地區主論壇在上海國家會展中心舉行 本文圖片由主辦方提供
9月11日上午,2023年國家網絡安全宣傳週上海地區主論壇在上海國家會展中心舉行。
本次論壇以“數字時代如何應對網絡安全新挑戰”為主題,多位從事各行業網絡安全和信息化工作專家集聚論壇,以主題分享與圓桌會議等形式共同探討關於數字時代的網絡安全和數據安全等問題。
論壇上,中國工程院院士、復旦大學金融科技研究院院長柴洪峯院士發表寄語,並對金融大模型的監管提出建議。柴洪峯表示,金融垂直領域的大模型應用目前面臨一些挑戰,一是金融數據的私密性限制了共享和構建大規模數據集的能力,二是金融數據的多模態特性增加了模型處理和建模的複雜性。為了克服這些難題,加強產學研的合作勢在必行,需要共同構建更強大的金融垂直領域基礎模型,以提高大模型對多模態數據的表達能力和安全性。

柴洪峯院士發表寄語
柴洪峯院士對金融大模型的監管提出三點想法。首先是在數據安全方面,需要對大模型訓練過程中的數據安全等級做嚴格的界定。監管機構也應加強對金融大模型的審查和風險評估,對關鍵人物和系統應建立審查和測試的機制,確保其性能和安全性。其次,為了實現建立監管框架與標準,確保大模型在金融領域的應用符合法規與道德要求,需要通過政產學研的合作制定相關的政策和指南。第三,對於金融大模型的部署與使用需要協同共治,提升透明度,保證數據質量和可解釋性的機制,這可以幫助用户與監管機構理解模型的決策依據,並確保其不帶有偏見或歧視性。
此外,多位網絡安全的業內大咖圍繞“數字時代如何應對網絡安全新挑戰”的主題進行圓桌討論。上海社會科學院互聯網研究中心主任、研究員惠志斌表示,網絡安全具有伴隨性、跟隨性,只要有新技術、新模式產生,必然會產生新的安全風險和挑戰。網絡安全是一個攻防兩端博弈的問題,它背後是技術和人才的博弈,政府、產業界、應用單位各方都應更加重視網絡安全,才能讓資源和博弈的對抗正向發展。
公安部第三研究所網絡安全法律研究中心主任、研究員黃道麗表示,從法律工作者角度看,現在網絡安全面臨的最大挑戰是怎麼把制度的能力轉化為實際的治理能力。法律最大的特點是穩定性,然而網絡安全風險和網絡安全形勢又是不斷變化的,甚至有時候它的風險會突破,比如AIGC、人工智能的風險是否會突破傳統認識的數據安全與個人信息保護,網絡安全規則的細化需要產業界、運營者、數據處理者以及社會第三方共同地推進。在黃道麗看來,目前針對網絡安全執法的力度和覆蓋面較為有限,如何提高執法能力,包括監督檢查、行政執法、執法隊伍建設等,對網絡安全而言也是極大的挑戰。
上海市信息安全測評認證中心創新研究院副院長徐御從測評角度闡述了網絡安全面臨的幾大挑戰。網絡安全原來以系統與網絡為核心,現在以數據為核心。以數據為中心之後,如果數據在後端遭受泄露或篡改,對前端造成的影響算不算安全問題?這個挑戰可能會改變後期的測評評估規則。
對於如何應對網絡安全面臨的挑戰,徐御表示,中國數據安全制度供給在逐步加大,包括《數安法》《個保法》等等,上海也推動了很多試點工作,這些工作都是以數據安全為中心的思路去構建整個城市的數據安全體系,但這些工作目前還處於起步階段。數據安全的供給側仍需進一步產業升級,一旦數據的一鍵加密、數據脱敏等高效的產品推出,滿足對於數據泄露、數據篡改等方面的需求,網絡安全產業的發展會更加快速。
上海交通大學人工智能研究院院長宋海濤認為,隨着人工智能技術的發展,下一步可能會很快地進入到算力的新型網絡,未來整個AI的智算資源很有可能會成為像電網一樣,算力入户、算力入校。面對這樣的發展,現在的網絡安全涵蓋面會更大。另外,人工智能和AIGC的產生,加速了人們對於信息的有效壓縮能力和表達能力,大量的信息內容通過網絡生成,這是網絡安全面臨的新的技術挑戰。宋海濤建議,不僅需要進一步地以科技自強來保護人民羣眾的生命財產安全,還要加強網絡安全方面倫理和治理體系的研究,下一階段的網絡安全工作更需要探討倫理和治理體系的建設。