AI攻防博弈升級:2025國家網絡安全宣傳週呈現“智防”新佈局
【環球網科技報道 記者 林夢雪】張先生接到 “兒子” 的視頻電話:額頭貼紗布,説車禍要 5 萬手術費。看着屏幕裏熟悉的臉,他正要轉賬,運營商反詐提醒彈出 :“這是 AI 換臉詐騙”。核實後才知,兒子根本沒事,騙子用社交媒體照片通過AI技術偽造了視頻。
這樣的場景,在 2025 年國家網絡安全宣傳週被頻繁提及。人工智能(AI)給生活帶來便利的同時,也讓網絡安全遭遇前所未有的衝擊,一場 AI 攻防博弈正悄然升級。
新挑戰:AI大模型特有安全**漏洞佔比超過60%
9月16日,第22屆中國網絡安全年會(暨國家網絡安全宣傳週網絡安全協同防禦分論壇)上,國內首次針對人工智能大模型的實網眾測檢驗結果正式發佈。統計數據顯示,本次眾測累計發現各類安全漏洞281個,其中大模型特有漏洞177個,佔比超過60%。典型風險包括:不當輸出、信息泄露、提示注入、不受限消耗類漏洞,以及傳統安全漏洞等。專家表示,若此類問題被惡意利用,將對大模型生態帶來較大影響。

與會專家指出,隨着AI應用場景的不斷擴展,新的漏洞和攻擊手法將不斷湧現,AI大模型安全治理工作任重道遠,亟需各方共同努力。一是針對大模型面臨的各類漏洞風險,需持續加強安全防護措施。二是加快制定AI漏洞分類分級標準,並按應用場景劃分風險等級。三是通過眾測模式廣泛匯聚社會白帽力量,構築AI共治生態。四是加強內生安全治理,將安全融入到AI系統全生命週期,從源頭築牢安全基石。
新防線:多方協同完善 “智防” 生態
對 AI 帶來的新威脅,網絡安全行業並未被動防禦,而是主動擁抱 AI 技術,將其打造成抵禦風險的 “最強防線”。如今,AI 不僅能為網絡安全工作人員提供智能研判支持,還能形成 “檢測 - 響應 - 處理” 的自動化閉環,大幅提升防護效率。隨着人工智能和大模型技術的迅猛發展,網絡安全已正式進入 “智防時代”。
而技術層面的 “智防” 升級,更需要制度與規則的保駕護航,為其劃定安全發展的邊界、明確協同治理的方向,在此背景下,針對 AI 安全的監管與治理體系也在持續完善。9月15日,在2025年國家網絡安全宣傳週主論壇上,《人工智能安全治理框架》2.0版(以下簡稱《框架》2.0版)正式發佈。國家互聯網應急中心負責同志表示,《框架》2.0版的發佈,順應全球人工智能發展潮流,統籌技術創新與治理實踐,在人工智能安全、倫理、治理等方面不斷深化共識,促進形成安全、可信、可控的人工智能發展生態,構建跨國界、跨領域、跨行業的協同治理格局。同時,有助於推進多邊機制下人工智能安全治理合作,推動世界範圍內技術成果的普惠共享,確保人類社會共享人工智能發展的紅利。
科技企業巨頭也在積極佈局。針對大模型應用的安全難題,華為雲在2025年國家網絡安全宣傳週現場展示了端到端大模型安全解決方案,聚焦數據安全、訓練保護與推理防護三大核心環節,依託“全鏈路風險識別”技術體系,構建多層次防護體系:以環境安全築牢基礎,以語料數據安全守住源頭,以模型推理安全把控出口。同時,創新引入安全大模型,以AI對抗AI,顯著提升安全運營的智能化與高效性,為大模型可信落地保駕護航。實踐表明,該方案可有效降低95%以上的攻擊暴露面,加速金融、能源、政務等高合規行業的大模型安全落地。
螞蟻集團也在現場展示了其gPass的“安全秘密”,以 “安全、交互、連接” 三大核心能力為支撐,螞蟻gPass致力於為 AI 眼鏡與智能體之間搭建可信、即時、無縫的信息橋樑,同時為眼鏡廠商和開發者構建開放、安全的人工智能數字生態。在安全層面,gPass 藉助可信身份流通、端到端加密、設備認證等技術,確保 “設備是本人”,構建起信息傳輸的安全屏障,全方位保障用户信息安全與隱私;在交互層面,融合聲紋、虹膜、指紋等無感核身技術,實現 “本人操作” 的流暢安全認證;在連接層面,可基於用户時間與場景需求,自動調度多智能體間即時、安全的消息交互,大幅提升 AI 眼鏡的體驗連貫性 。
螞蟻消金則將重點放在 AI 時代應對憑證與語音偽造的風控能力建設上。通過多模態感知與大小模型協同的方式,其系統能夠精準識別假章假證、合成語音等造假行為,目前虛假證件識別準確率已達 98%,語音偽造檢測可覆蓋 50 餘種合成方式。2024 年以來,螞蟻消金還聯合司法機關查處了 12 家非法金融中介,涉案人員超過 200 人,實現了技術治理與司法聯動的有效結合,強化了金融領域的 AI 安全防護。
同時,科技巨頭們也在藉助AI能力護航網絡安全。針對企業網絡安全風險,華為基於 AI 對抗 AI 的理念,推出星河 AI 網絡安全解決方案,為企業量身打造覆蓋分支、園區及數據中心的全場景零信任防護體系,構建起全方位的網絡安全壁壘。據介紹,在企業安全的多分支場景,華為防火牆集成 Emulator 微內核脱殼引擎與 AI 安全檢測算法,前者可對加殼文件實施解密脱殼操作,後者針對解密後的文件進行動態行為分析,未知威脅檢測率達 95%,領先業界 15%;在安全園區場景,依託 AI 訪問關係的自學習能力自動生成策略,實現東西向 4 - 7 層的微隔離效果,有效防止威脅內外蔓延,同時通過端雲聯動防禦實現 100 跳深度溯源,精準定位攻擊源頭;在安全數據中心場景,首創勒索加密回滾技術,能確保勒索加密文件 100% 恢復,全方位守護數據安全 。
在2025年國家網絡安全宣傳週期間可以看到,從 AI 換臉詐騙引發的個人財產風險,到 AI 大模型超 60% 的特有漏洞帶來的生態挑戰,人工智能將網絡安全推向 “攻防博弈” 的新階段。同時,“AI 對抗 AI” 的 “智防” 模式也逐漸成熟,監管框架迭代、企業方案落地與社會力量參與形成的合力,正為人工智能安全可信發展築牢根基 。