獨家對話|齊向東：大模型的安全挑戰日益嚴峻，如何應對-心智觀察所、齊向東

【今年2月17日，在中國經濟巨輪迎難而上、乘風破浪的關鍵時期，習近平總書記出席民營企業座談會並發表重要講話。奇安信集團董事長齊向東是與會民營企業家代表之一。在兩會召開的前夕，心智觀察所與全國政協委員齊向東就“數據驅動安全”理念，雲端網絡防禦，以及我國軟件生態等議題進行了一場深度對話。】

 心智觀察所：在近期參加的民營企業家座談會上，齊安信在網絡安全領域的技術創新成果受到關注。結合當前國家對科技自立自強的政策導向，您認為民營企業應如何把握政策機遇，進一步推動核心技術攻關？齊安信未來是否會將座談會上獲得的建議轉化為具體的戰略佈局？

**齊向東:在民企座談會上，總書記重點講了在新徵程新時代企業家要大有作為，在新徵程新時代裏，又談到現在的社會經濟和政治環境都非常好，適合民營經濟大發展。**總書記談到，現在科技發展日新月異，不斷出現新產業、新業態、新場景，在這些新產業、新業態、新場景裏，能夠施展我們民營企業各種各樣的優勢，為中國式現代化做更大的貢獻。

**尤其談到美國對中國高科技的打壓方面，一些科技創新企業可能遇到了一些困難。總書記在談話的時候給我們民營企業家打氣、鼓勁，增強了很多信心。**總書記談到我們有14億人的超大市場，有強大的工業製造基礎，也有改革開放以來培養的一批又一批科技創新人才。最近這幾年，我們在數字經濟、人工智能、先進製造業等方面都取得了很大的成績，既是大家努力的結果，又是綜合國力的體現。所以總書記又語重心長地告訴我們，不要為困難所懼，不要為干擾所迫，要做大、做強、做精主業，要往深了做，要突破科技上的難題。

關於下一步的戰略重點，奇安信一直在説“安全快一步”，快一步抓產品、抓技術。所有技術都有短板，所有網絡攻擊者捕捉的都是技術的短板，而我們使用者看到的都是技術的長板，看不見短板，只有黑客能看得見。我們安全公司要兼具兩隻慧眼，學會用兩隻眼睛瞄兩個方向，一個要看到技術長板，一個要看到技術的短板。這就是安全公司獨特的地方，我們要在行業裏練出特殊的功能和本領。

心智觀察所：作為首次參加兩會的民營科技企業代表，齊安信是否計劃就網絡安全、數據安全或人工智能監管等熱點領域提交提案？在數字經濟與實體經濟深度融合的背景下，當前行業最亟需的政策支持或法規完善方向是什麼？

**齊向東:**今年兩會我比較關注兩方面，一是人工智能安全，二是軟件產業健康發展。

**先説人工智能安全。**當前，以大模型為代表的人工智能技術正在深刻重塑生產生活方式和科技創新模式。今年春節，國產大模型DeepSeek橫空出世，引發了廣泛討論，它顛覆了傳統的人工智能創新模式，將推動人工智能技術加速向千行百業滲透。但是人工智能也有“成長”的煩惱，隨着人工智能技術的深度應用，大模型所面臨的、所帶來的安全挑戰也日益嚴峻。奇安信是網絡和數據安全領域的領軍企業，保障人工智能時代的網絡空間安全是扛在我們肩上的重任。所以這次兩會我重點關注這方面內容，期待能夠用一些切實可行的舉措，為人工智能安全發展貢獻新力量。

再説軟件產業健康發展。軟件產業是支撐新技術發展的關鍵，也是助推數字經濟發展的重要力量。但目前我國軟件產業高質量發展遇到了不小的挑戰。一方面，軟件產業是“內卷式”競爭的重災區，招投標“低價惡鬥”、技術評分體系有缺陷、項目轉包現象等等，都拖慢了軟件產業的創新步伐。另一方面，我們軟件產業的市場價值被嚴重低估了。有公開數據顯示，中國軟件產業市值前十名的總和與美國軟件行業前十名的市值總和相比，差了上百倍，這不利於軟件產業持續創新發展。所以，這次兩會我也格外關注這方面的內容，希望能為軟件產業的健康發展出力獻策。

心智觀察所：如何看待當前全球網絡安全威脅的演變趨勢？在AI技術快速發展的背景下，網絡安全防禦的核心挑戰發生了哪些變化？

**齊向東:**人工智能不斷突破創新，“人工智能+千行百業”將催生出大量新場景和新業態。這些新場景和新業態也會帶來全新的安全問題。我總結，人工智能發展面臨的安全問題大致可以分三類。

**第一類是人工智能大模型自身的安全問題。**開發風險、數據風險、應用風險和基礎環境風險這四大安全風險比較突出。**開發方面，**開源大模型要重點防範代碼缺陷和預留後門等問題；應用方面要防“內鬼”對訓練數據投毒，進行模型篡改、配置篡改；**數據方面，**要小心內部配置錯誤和弱口令等造成的數據庫暴露；基礎環境方面要重點關注雲、API、傳統設備漏洞等等。目前，已有團隊發現DeepSeek存在嚴重漏洞，並可藉此獲取後端隱私數據、API 密鑰、操作元數據，儘管漏洞很快被修補，但是根據我們的經驗，新漏洞會不斷被挖掘出來。

第二類是利用人工智能開展網絡攻擊的問題。****人工智能促進了網絡攻擊手段的更新迭代，“飽和式”攻擊成為可能，攻擊者可以瞬時發動海量攻擊打垮已有的網絡安全體系。**人工智能還提升了“以假亂真”的能力，**深度偽造、認知戰、釣魚等威脅加劇。攻擊者可利用人工智能“換臉變聲”輸出虛假信息，開展網絡詐騙，或輸出背離主流價值觀的內容危害認知安全。

**第三類是通過攻擊人工智能引發的“網絡攻擊大爆炸”。**未來人工智能會成為社會的基礎設施，當大模型嵌入智慧城市、工控系統、智慧政務等關鍵領域時，會放大漏洞等傳統安全威脅，一旦人工智能大模型遭到攻擊可能會牽一髮而動全身，引發社會服務中斷、生產停滯、隱私數據泄露等安全事件。

心智觀察所：在推動AI大模型安全標準或合規框架方面，與政府、學術界或其他企業展開合作的拓展點有哪些？例如針對大模型的數據安全與倫理問題。

**齊向東:**2024 年4月，公司推出的QAX-GPT安全機器人憑藉多個方面的綜合表現，獲得由中國計算機 行業協會人工智能專委會、中國軟件測評中心（工業和信息化部軟件與集成電路促進中心）聯合 頒發的國內首批“大模型安全評定證書”，被認定符合二級評定資格要求。這是迄今為止大模型 安全服務能力的最高級別認證，處於業界領先水平。

心智觀察所：近年來國家強調“鏈主”企業的生態引領作用。齊安信作為網絡安全龍頭企業，在參與行業標準制定、扶持中小企業協同創新方面有何具體規劃？未來如何通過兩會平台推動建立更開放的產學研合作機制，助力產業整體競爭力提升？

**齊向東：奇安信在人才培養方面的經驗概括起來是三點：**一是建立專業人才培養基地，我們在2018年，就在綿陽成立安全人才虎符基地，並先後在武漢、瀋陽、揚州等地建立基地，目前已經累計培養超1.5萬網絡安全人才；二是校企聯合進行高層次人才培養，奇安信被中組部列為“培養卓越工程師重點企業”，與清華、北郵、北航等高校聯合培養，目前在校在企的碩博士有60多名；三是以賽促學、以賽促教，我們積極開展網絡安全實戰大賽、打造眾創平台、與高校合作建立實踐性的學科體系，探索出了多元化的實戰人才培養模式，為網絡安全事業的發展注入源源不斷的人才活水。

**破除AI“人才荒”，關鍵是打通企業和高校兩個“蓄才池”，給青年創新人才更多施展拳腳的機會。**我拿DeepSeek來舉例，DeepSeek團隊的核心成員多是來自清北、浙大等頂尖高校的應屆生、博士生，他們大多是90後。這樣一支人才隊伍，學術背景紮實，富有創新精神，為我國科技創新提供關鍵支撐。建議加大力度推動校企融合，通過選取人工智能領域相關的骨幹科技企業作為大學生就業實訓基地、鼓勵校企開展聯合攻關等方式，給年輕人更多深入產業一線的機會，從而逐步化解我國面臨的 AI“人才荒”。

心智觀察所：奇安信是否計劃與雲計算廠商、通信運營商、芯片企業或終端設備商共建AI安全生態？

齊向東：奇安信作為中國領先的網絡安全公司，一直致力於推動AI安全生態的建設。公司積極與雲計算廠商、通信運營商、芯片企業和終端設備商展開合作，共同應對AI技術帶來的安全挑戰。通過多方協作，奇安信旨在構建一個開放、協同的AI安全生態系統，確保AI技術的安全應用與發展。

本文系觀察者網獨家稿件，文章內容純屬作者個人觀點，不代表平台觀點，未經授權，不得轉載，否則將追究法律責任。關注觀察者網微信guanchacn，每日閲讀趣味文章。