2025上合組織論壇：周鴻禕提出“以模製模”應對AI安全挑戰

5月29日，以“智匯中國 智惠上合”為主題的2025中國—上海合作組織人工智能合作論壇在天津舉行。360集團創始人周鴻禕受邀參加“安全風險與監管治理”議題交流時表示，人類在享受AI帶來的巨大機遇時，也必須正視與之伴生的安全風險與監管挑戰。他提出，一方面，應“以模製模”，利用安全大模型解決大模型安全問題；另一方面則應以辯證、客觀的態度看待監管問題，力求在保障安全的前提下，為創新預留足夠空間。

周鴻禕在發言中表示，從現實應用層面來看，大模型面臨着傳統安全威脅與AI自身安全隱患的雙重挑戰，這些問題已成為制約AI產業健康發展的關鍵瓶頸，亟待系統性解決方案。在傳統安全風險方面，系統漏洞與供應鏈攻擊成為AI領域的“心腹大患”。一旦漏洞被攻擊者利用，企業的核心商業機密、用户敏感數據等將面臨被竊取的風險，可能給企業帶來難以估量的損失。

而AI自身的安全問題同樣不容忽視。大模型存在的“幻覺”現象，以及易遭受提示注入攻擊等特性，可能導致嚴重後果。特別是眾多企業基於大模型構建了能夠自主工作的智能體，這些“數字員工”具備調用各類工具的能力，一旦大模型被惡意操控或出現“幻覺”，智能體可能出現誤發重要郵件、錯誤操作致使生產線停擺等誤操作，將風險從虛擬世界傳導至現實生產生活中，傳統的安全防護手段在這些新型風險面前顯得捉襟見肘。

周鴻禕提出，必須以創新思維重塑安全體系，“以模製模”成為破局關鍵。所謂“以模製模”，即利用人工智能技術自身的優勢，通過安全大模型賦能數字安全，實現安全防禦的智能化升級。據瞭解，360依託10年300億元的技術投入成果，結合20年來積累的海量安全大數據，以及世界頂級安全專家的豐富經驗，訓練出專業的安全大模型，並形成完整的安全解決方案。目前，該安全大模型已成功應用於政府、能源、金融、教育等關鍵行業，為其築牢AI安全防線。同時360牽頭成立大模型安全聯盟，聯合科研機構、高校和行業頭部企業，共享技術成果，共同研發安全產品與服務，攜手推動AI安全有序地融入各行各業。

而在監管治理層面，周鴻禕指出，合理有效的監管是人工智能產業健康發展的重要保障。當前，全球各國紛紛出台AI監管政策，旨在規範技術應用、防範潛在風險。然而，人工智能技術發展日新月異，其優勢與侷限並存，這就要求監管部門以辯證、客觀的態度看待，在保障安全的前提下，為創新預留足夠空間。

以大模型的“幻覺”問題為例，這一特性雖可能導致信息偏差，但同時也賦予大模型創造力和想象力，在科研領域，如新藥分子結構設計、蛋白質結構預測等方面發揮着積極作用。周鴻禕認為，可借鑑互聯網早期發展的“避風港原則”，在AI監管中採取柔性治理策略具有重要意義。即在堅守安全底線的基礎上，對企業因技術特性導致的一般性失誤給予一定寬容度，以鼓勵創新。通過制定統一的技術標準和監管框架，明確規則邊界，引導企業在規範內積極探索創新，避免因過度監管抑制產業發展活力。（古雨）