安全治理合輯 |永遠慢半拍？AI治理能否追上狂奔的技術
guancha
隨着生成式AI和大模型的爆發式普及，我們正在看到它帶來的驚人創新與令人警惕的問題交錯上演——印度在軍購交易中利用“量子”“AI”等熱詞偽裝老舊技術騙走以色列5億美元定金，暴露了“AI包裝”下的信息差和合同陷阱；科研界裏有人用AI寫論文，甚至在稿件裏隱藏白字要求審稿AI説好話；有人用AI大批量生成歌曲、刷點擊，騙取App Store上千萬美元的版權分成。
這些看似“聰明”的應用，背後是生成式AI帶來的幻覺輸出、深度偽造、內容安全失控和商業模式欺詐。它不僅考驗着監管的敏感度和治理能力，也提出了一個全球性難題：我們要如何確保AI系統不僅強大、易用，而且安全、可控、可信、負責任？
在這個背景下，中國提出了自己的AI“雙軌戰略”——既要加快人工智能產業創新發展的“高速公路”，又要在技術安全、倫理治理、法規標準等方面建好“護欄”。在倫理治理與全球共識方面，《WAIC UP!》曾採訪清華大學薛瀾教授，他指出治理AI必須像應對氣候變化一樣，先深入理解技術原理，才能科學分析風險並找到解決方案。他強調，必須依靠全球頂尖專家共同評估，超越國家利益，真正以人類未來為唯一關切。在技術治理與可信落地方面，上海交通大學張拳石教授表示，大模型的“聰明”往往是“事後擬合”的幻象，缺乏可解釋性和可驗證性。他強調，AI若要在醫療診斷、自動駕駛等關鍵場景落地，必須實現可解釋、可驗證、透明可信的技術體系。
也正是在這樣的全球風險與本土探索交織的節點上，WAIC 2025 特別設置了「AI+安全治理」板塊。這個板塊不僅要展示中國在AI安全領域的技術突破和合規方案，更在於推動全球範圍內的治理共識。它涵蓋了從技術治理到倫理立法，從產業合作到社會治理，再到“AI向善”的多維話題，集結了頂尖科研院所、國際組織、政府部門、法律學者和企業領袖，共同探索AI時代的安全護欄和發展紅利如何兼得。
技術治理論壇：螞蟻集團、華東政法大學 — 高階程序引領的AI應用新範式
在技術治理領域，其中一個重點論壇就是螞蟻密算和華東政法大學主辦的「從通用智力到專業生產力：高階程序引領的AI應用範式」。這裏談的不是抽象的AI倫理，而是落到非常“硬核”的技術路線：如何用高階程序（HOP）破解大模型在金融風控、網絡入侵檢測、醫療計費等專業場景的可靠性問題。
本次論壇聚焦高階程序如何在大模型的基礎上，進一步提升專業領域的生產力，推動AI技術從通用智力向專業生產力的轉變。螞蟻集團副總裁、螞蟻密算董事長韋韜將在論壇為大家介紹高階程序（HOP）的誕生背景，技術原理，應用場景等，同時會上將會發布國內首個專業大模型驅動的高階程序（HOP）技術開源，這是一場關於AI技術升級與行業賦能的前沿探索，歡迎各界人士共同見證高階程序的無限潛力。
安全治理論壇：安遠AI — 聚焦全球AI安全治理前沿
安遠AI主辦的「人工智能安全和治理論壇」則成為WAIC全場專門聚焦AI安全治理的高端論壇。
該論壇圍繞AI安全科學基礎、AI安全新興挑戰、AI風險管理實踐、AI安全全球治理四大主題展開討論。嘉賓陣容包括圖靈獎得主Yoshua Bengio、中國工程院院士高文、張亞勤院士、加州大學伯克利分校教授Stuart Russell等，他們將分享AI安全的理論基礎和安全研究的最新進展，並圍繞"超級智能—科學家的共識與分歧"展開高峯圓桌對話。
此外，還有Dawn Song等國際安全技術專家就前沿AI的網絡安全威脅、模型失控風險、AI×生命科學領域的負責任創新等前沿議題深入對話。在AI風險管理實踐和全球治理維度，論壇將匯聚來自xAI、阿里研究院、百度、Partnership on AI等前沿機構的專家分享最新風險管理實踐，同時邀請諸多國際機構代表，圍繞中美歐不同政策路徑、國際標準建設和多邊治理合作展開深度對話。這不僅是一次技術討論，更是推動全球AI安全治理合作的重要平台。
無論是螞蟻集團與華東政法大學共論“高階程序”技術治理的落地路徑，還是安遠AI專場聚焦AI安全的科學基礎構建、挑戰應對、風險管理與全球治理，所有這些議題都在嘗試回答一個核心問題——在AI成為新質生產力的同時，如何讓它“可用、好用、敢用”，併為全球治理體系貢獻“中國方案”和“中國智慧”。
以下為本屆大會「AI+安全治理」專場的完整議程及各論壇亮點詳情——期待各界同仁深度聆聽、共同探討。
「智聽未來」AI+安全治理前沿論壇矩陣
人工智能安全治理需要全球多邊協作與本土化實踐相結合。WAIC 2025“AI+安全治理”論壇矩陣聚焦國際合作、技術創新與標準共建，邀請政府、國際組織、學術機構和產業巨頭共同探討AI治理的新路徑，推動構建包容、公平、可信的全球AI治理體系。
技術治理板塊
“有益 安全 公平”人工智能向善論壇
7月26日14:00-17:00
上海世博中心431會議室
論壇以“有益、安全、公平”為主題主線，聚焦人工智能發展的治理底座和價值引導，倡導構建人工智能發展的治理邏輯閉環，助力構建人本導向、負責任、可持續的智能社會，以此響應中國政府對人工智能“朝着有益、安全、公平方向健康有序發展”的戰略部署。論壇議題設計堅持國際性、系統性、多維度兼容，涉及智能體經濟、AI基礎設施、安全評測、高質量數據等多個領域。
從通用智力到專業生產力：高階程序引領的AI應用新範式論壇
7月27日14:00-17:00
上海世博中心430會議室
會議聚焦高階程序如何在大模型的基礎上，進一步提升專業領域的生產力，推動AI技術從通用智力向專業生產力的轉變，未來，大模型驅動的HOP有望替代幾乎所有行業數字化的初級工種，顯著提升數據和業務處理效能，為各行業帶來深遠變革，這是一場關於AI技術升級與行業賦能的前沿探索，歡迎各界人士共同見證高階程序的無限潛力。
倫理治理板塊
人工智能法治論壇
7月26日14:00-16:40
上海世博中心515會議室
論壇以“連接：AI倫理與法治”為主題，邀請國內外相關領域高影響力的學者和業界專家，聚焦人工智能、大模型、智慧法治等法學前沿主題，從可信人工智能發展與法律制度的構建，AI安全治理的法治路徑，從雲端到終端：人工智能體的可信治理，演化中的人工智能與適應型法治：中國路徑的制度回應，韓國人工智能框架法案的批判性概述等多元視角，在“開放創新”與“風險可控”之間找到新平衡點，共同探討開源生態可持續發展的法治路徑，共同呈現學術界和產業界對於AI治理的倫理與法治的最新見解。
人工智能的創新發展：倫理引領，治理賦能中法論壇
7月26日14:00-17:00
華東師範大學滴水湖國際軟件學院一樓會議室
落實中法兩國元首關於AI倫理和全球治理的共識，延續巴黎峯會成果，依託中法人文合作機制和華東師大的學術基礎，搭建中法專家及青年學子對話平台，推動中法人工智能倫理與全球治理的國際合作。華東師範大學攜手裏昂高等師範學校、格勒諾布爾阿爾卑斯大學、里昂第三大學、蔚藍海岸大學、洛林大學、薩瓦大學、里昂天主教大學等法國高校，共同發起推動人工智能實現平衡安全、創新與可持續發展的全球倡議。
量子城市：空間智能+城市治理
7月26日14:00-17:30
上海市楊浦區共青路130號大中華造船機器廠舊址
論壇邀請國內外頂尖專家學者圍繞人工智能賦能超大城市空間治理議題進行交流，面向全球共同研討超大城市空間治理難題，構建智能治理新範式，並展示上海量子城市空間智能創新實踐案例，輸出可複製的超大城市空間智能治理的“上海方案”，推動行業實踐探索。
人工智能規則全球對話與協同發展論壇
7月27日09:00-12:00
上海世博中心430會議室
論壇致力於服務國家人工智能發展戰略，搭建國際規則交流與協同發展平台，推動中國在聯合國框架下積極參與全球人工智能治理。論壇邀請人工智能治理重要國際組織高級別代表，人工智能立法代表性法域專家學者，以及我國知名人工智能企業代表共同探索與交流。論壇將重磅發佈“全球人工智能治理規則地圖”，發起“全球人工智能規則合作研究平台”，促進多邊協作、能力建設與制度互通。
人工智能治理國際多方合作論壇
7月27日09:00-12:00
上海世博中心620會議室
論壇擬邀請歐洲、中國、亞太等關鍵AI治理智庫、標準組織、認證機構、頭部公司，側重從產業的視角，探討AI治理工程化、標準化、認證化的落地路徑。希望藉助本論壇展示國際產業界AI治理的實踐，促進國際AI治理的共識和互操作，助力國內外AI產業屆各方的交流、合作和共同發展。
智能社會論壇：AI賦能社會治理與可持續發展
7月27日09:00-12:00
上海世博中心619會議室
論壇以“AI賦能社會治理與可持續發展”為主題，邀請了聯合國環境規劃署、歐盟、中國、英美等國內外專家學者、政策制定者與產業實踐者，通過主旨演講、跨界對話，共同探討人工智能在社會治理與可持續發展中的前沿應用、倫理挑戰與政策路徑。同時，論壇將發佈人工智能賦能社會治理與可持續發展的研究成果、技術方案和實踐樣本，推動技術向善，助力全球可持續發展議程。
安遠AI人工智能安全和治理論壇
7月27日09:00-17:30
上海世博中心518會議室
論壇將圍繞AI安全科學基礎、AI安全新興挑戰、AI風險管理實踐、AI安全全球治理展開討論，為聯合國大會和全球人工智能峯會相關議題奠定基礎。論壇共有超過25位國內外專家學者參會。論壇將舉辦15場主旨演講、5場圓桌討論及四份報告發布，併發布多項AI安全治理前沿成果。通過深入探討AI安全技術、治理方案和國際合作機制，為構建全球AI治理體系貢獻中國智慧，推動人工智能安全發展，造福全人類。
人工智能的全球發展與治理：共贏與共治之路論壇
7月27日14:00-17:30
阿里巴巴徐匯濱江區D區星海廳
匯聚全球政界、學界、產業界及國際組織的專家力量，共同探討在人工智能快速演進背景下，如何推動包容性發展與負責任治理。面對技術擴散帶來的機遇與挑戰，論壇聚焦全球治理框架的協同建設，倡導以“共贏”理念推動技術紅利的廣泛共享，以“共治”路徑回應跨國治理的制度需求，努力為全球AI發展注入可持續、公平與可信賴的制度支撐。論壇將圍繞國際規則構建、技術倫理邊界、發展中國家參與、產業協同機制、風險評估與響應機制等核心議題展開多場高層對話與專題研討，推動形成多邊共識、促進國際合作，助力構建開放、公正、有效的人工智能全球治理新格局。
社會科學的創新與人工智能的未來
7月27日14:00-17:30
上海社會科學館多功能廳
論壇聚焦“應用探索”和“成果展示”，體現“國際化”和“年輕化”，圍繞人工智能助力社會科學創新（AI4SS）和社會科學引領人工智能向善（SS4AI），邀請國內外專家學者以及青年學人開展多方位交叉議題的深度交流。同時，論壇將聯合上海市主要高校和研究機構，成立人工智能與社會科學學術研究共同體併發布最新研究成果，上海社會科學館還將開闢固定展區展示上海市主要高校和研究機構“人工智能與社會科學融合發展”成果，共同為人工智能與社會科學的雙向賦能貢獻創新智慧。
AI向善：人工智能在環保、教育、金融、醫療等領域的跨行業應用與發展
7月28日14:00-17:00
上海世博展覽館1B會議室
論壇將匯聚中國科技領袖、慈善機構、多邊機構和社會創新者，共同探討人工智能在解決緊迫發展挑戰中的作用。從健康和教育到金融普惠和氣候適應能力，該主題論壇重點展示可擴展的跨境人工智能解決方案，以實現公共利益。
智庫集結
國際組織：聯合國教科文組織、國際標準化組織、Partnership on AI、International AI Governance Association、歐盟標準化委員會、經濟合作與發展組織（OECD）等。
政府與機構：司法部、中央網信辦、上海市教育委員會、中國網絡空間安全協會、國家互聯網應急中心、中國科學院、中國電子技術標準化研究院、上海市車聯網協會、鵬城實驗室等。
高等學府：佛羅里達大學、法國蔚藍海岸大學、里昂天主教大學、北京大學、清華大學、天津大學、上海大學、對外經濟貿易大學、中國政法大學、同濟大學、華東師範大學、北京師範大學、北京郵電大學、華東政法大學、西北政法大學等。
知名企業：xAI、華為、騰訊、螞蟻集團、字節跳動等。
大咖齊聚
聯合國副秘書長 Amandeep Singh Gill
聯合國教科文組織東亞地區辦事處主任兼代表 Shahbaz Khan
聯合國環境規劃署科學司司長 劉健
國際標準化組織主席 曹誠煥
國際人工智能治理聯盟主席 John Higgins
圖靈獎得主 Yoshua Bengio
歐洲標準化委員會《人工智能可信框架》起草組長 Piercosma Bisconti
歐盟《人工智能法》組草組組長、麻省理工學院研究員 Gabriele Mazzini
斯洛伐克投資、區域發展和信息化部數字監管和人工智能治理專家，經合組織人工智能治理工作組主席 Juraj Čorba
MILA魁北克人工智能研究院政策、安全與全球事務副總裁 Benjamin Prudhomme
人工智能安全中心創始人 Dan Hendrycks
全球人工智能夥伴關係聯合主席 Lucia Velasco
AI Data Robotics Association主席 Emanuela Girardi
韓國個人信息保護委員會數據處理標準小組主席 金秉弼
加州大學伯克利分校教授 Stuart Russell
新加坡工程院院士、南洋理工大學校長講席教授 文勇剛
法國蔚藍海岸大學副校長 Laurent Counillon
日本上智大學副校長 森下哲朗
聯合國大學駐澳門研究所所長 黃京波
國務院參事、清華大學人工智能國際治理研究院院長 薛瀾
中國工程院院士 、同濟大學黨委書記 鄭慶華
上海紐約大學校長、華東師範大學哲學系教授 童世駿
清華大學院長、教授 張亞勤
中國政法大學黨委書記 姜澤廷
中國政法大學數據法治研究院教授、上海市人工智能倫理與治理委員會專家委員 張凌寒
中國科學院自動化研究所研究員、人工智能倫理與治理研究中心主任 曾毅
國家新一代人工智能治理專業委員會委員 李仁涵
中國網絡空間安全協會理事長 趙澤良
國家互聯網應急中心常務副主任 劉博
中國電子技術標準化研究院網絡安全研究中心人工智能安全部主任 郝春亮
之江智慧研究中心主任 陶海青
上海市車聯網協會秘書長 阮大治
阿里巴巴AI治理中心主任 傅宏宇
華為技術有限公司副總裁 甘斌
螞蟻密算CEO 王磊
……
*論壇議程與嘉賓以現場為準。
「智見未來」AI+安全治理展覽圖譜
面向AI安全治理全鏈路場景，WAIC 2025展覽區匯聚眾多頭部企業與科研機構，共同展示大模型安全、密態計算、AI安全平台、智能運維和可信AI基礎設施等創新解決方案，促進產業鏈協同與國際標準接軌。
企業領航
AI+安全治理展區匯聚百度、螞蟻集團、深信服、思科等企業，重點展示大模型安全分級、密態計算保護、安全智能體平台和全鏈路安全運維等多樣化產品方案，共同推動數據安全、AI可信和全球治理能力建設。
爆品揭秘
深信服帶來安全GPT大模型，該模型是國內唯一一家通過《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》雙備案的安全大模型。安全 GPT 已落地 400 多家行業用户，支持7x24自主值守、秒級響應和全流程閉環處置等功能。
思科科技（北京）有限公司展示全棧AI應用與安全解決方案，包括AI場景規劃（AI CX）、AI基礎架構設計（AI DC與Agile Network）、AI Observability & Security、AI Access Network、Collaboration協作系統。通過Splunk數據智能、eBPF技術、Cisco安全產品等，提供端到端安全、可觀測、可信的AI全生命週期防護和生產力提升。
螞蟻集團帶來螞蟻密算可信數據空間，包括密算一體機和密算筆記本，實現數據全鏈路密態化保障。依託自研安全芯片和隱私計算框架，支持農業信貸和跨組織數據共享，確保高敏感數據的安全合規流通。
中國電信首發智雲上海，構建雲網融合的新型信息基礎設施，服務家庭、企業、政府的AI算力需求，支持普惠AI2H及公共算力服務，通過高可靠調度和雲網一體化架構，實現全域算力資源的彈性供給。
物道智雲（上海）科技有限公司，首發物道AI物聯網平台——WuDao AIoT支持20+工業協議實現毫秒級數據採集，內置工業數據湖與邊緣AI，支持雲-邊-端協同分析。具備知識庫與大模型結合的智能問答功能，內建規則引擎和事件驅動閉環管理，提升工業運維智能化水平。
中電金信數字科技集團股份有限公司推出行業數字底座“源啓”3.0集成基礎運行支撐、數字構建、數據資產和行業AI四大平台，提供雲原生架構管理、多樣化開發運維工具鏈、全鏈條數據治理能力和AI生產能力，助力行業實現智能化轉型。
南方電網發佈電網安全控制智能體和“天空地”巡檢智能體。電網安全控制智能體實現斷面控制智能化優化，提升電力系統安全；“天空地”巡檢智能體融合人形機器人、機器狗和AI無人機，實現電網運維智能化、自動化與安全性提升。
中國遠洋海運集團展出航安寶智能航運安全系統，結合AI、大模型、邊緣計算，首創“船岸一體”多技術融合模式，即時感知全球船舶風險態勢，實現80餘類風險場景捕捉與主動預警，提升航運安全管理能力。
超雲數字技術集團有限公司推出SuperCube 7000 AI模型一體機，集成大模型訓練與推理功能，支持本地知識庫掛載和行業定製，具備高安全性、高效率和即開即用特性，助力行業大模型應用落地。
蜜度科技股份有限公司首發模力通智慧辦公智能體，整合DeepSeek、蜜巢、文修三大模型，支持通用問答、公文校對、材料分析等八大功能，覆蓋政務、醫療、金融、能源、教育等多領域的安全高效辦公場景，可在離線狀態下使用，保障數據安全合規。
無限光年帶來光語啓智智算平台，覆蓋AI工程全流程管理，提供模型訓練、開發、部署和資源納管的全鏈路服務，具備高適配性和安全性，幫助企業自主開發並部署AI模型，釋放智能化潛能。
浪潮雲信息技術股份公司展示海若一體機，集成高性能硬件與海若大模型，打造軟硬件協同、生態兼容的一站式AI基礎設施。為政企客户提供靈活部署、數據安全合規的定製化AI能力，加速大模型場景落地。
北京首都在線科技股份有限公司發佈DeepSeek一體機，搭載自研DeepSeek大模型，支持私有化部署與全尺寸模型調用，覆蓋政務、金融、工業、客服等場景，降低企業AI應用的技術門檻，實現本地化安全合規部署。
*展覽展品以現場實際展出為準。
在人工智能全球化競爭與合作加劇的背景下，WAIC 2025「AI+安全治理」板塊通過多場國際論壇和產業展覽，匯聚全球政產學研各方智慧，推動安全、可信、可控的AI技術治理體系建設，共同打造面向未來的全球合作新範式。