北京前瞻人工智能安全與治理研究院正式成立：安全與治理引領人工智能穩健發展-曾毅

【文/ 觀察者網專欄作者 曾毅】

人工智能的發展給全社會帶來前所未有的機遇與變革。我們在經歷、體驗與感受的同時，對於人類、智能與智慧進行着更深刻的反思，這種經歷、體驗和反思已不可避免地需面對人工智能帶來的潛在風險與挑戰。

從學術界76年前人工智能尚未誕生時Edmond Berkeley關於“社會控制：倘若機器真的變得智能”的思考，到65年前控制論的奠基者Norbert Wiener關於“自動化的技術與道德後果”的遠見，再到當代人工智能技術在工作和生活中已經給我們帶來的隱私侵犯、虛假信息、人工智能幻覺、偏見歧視、自主系統風險等，人工智能安全與治理的問題已與人工智能賦能的社會中每一個人息息相關。社會無法接受缺乏方向盤和繮繩的人工智能無序野蠻狂奔，安全、倫理與治理將促進人工智能的穩健發展。

正是在這樣的背景下，美、英、日、韓、法、加、新等全球十數個國家分別成立了人工智能安全有關的研究院所與中心，以及諸多人工智能安全相關社會組織。作為中國這樣負責任的創新大國中人工智能科技領先的城市之一，北京不僅要有所作為，在人工智能安全領域發揮頭雁作用，更要在國際合作中團結國內兄弟單位擔當中堅力量。

作為正式成立研究院前的籌建工作，2024年9月“北京人工智能安全與治理實驗室”在北京市經信局、北京市網信辦等多個市局，和實驗室落地所在的門頭溝區政府與中關村門頭溝園、京西智谷的見證與大力支持下應運而生，並在來自中國科學院自動化研究所、北京大學、清華大學、中國信息通信研究院相關學者和機構以及相關企業的支持下揚帆起航。

2025年3月，“北京人工智能安全與治理協同創新矩陣”在中關村論壇正式發佈，人工智能安全與超級對齊北京市重點實驗室作為“創新矩陣”成員，與人工智能安全與標準北京市重點實驗室等6家北京市重點實驗室在北京市科委的指導下共同推進北京人工智能安全與治理前沿研究的協同創新。北京市在人工智能安全與治理方面各有側重的實驗室與研究機構如雨後春筍般湧現與蓬勃發展。

2024年9月，作為前瞻研究院前身的北京人工智能安全與治理實驗室成立揭牌

北京人工智能安全與治理實驗室在半年多的發展與建設期間與合作機構共同發佈了多項研究成果：在技術安全與治理方面，發表了涉及生成式人工智能大模型面對不同程度壓力的行為表現與機理研究、人工智能大模型的安全護欄研究等，相關研究成果發表在AAAI 2025、ICLR 2025等人工智能頂級國際會議；在全球人工智能安全與治理評估與合作方面，聯合發佈全球人工智能安全指數(Global Index for AI Safety)，作為主要撰寫機構之一參與編寫和發佈世界互聯網大會人工智能專委會首份報告《以普惠包容的人工智能治理賦能全球可持續發展(Governing AI for Good and for All—Empowering Global Sustainable Development)》。

Beijing-AISI參與編寫和發佈《全球人工智能安全指數》報告、以及世界互聯網大會人工智能專委會首份報告《以普惠包容的人工智能治理賦能全球可持續發展》

作為來自中國的機構，從籌建期的北京人工智能安全與治理實驗室到正式成立的北京前瞻人工智能安全與治理研究院，在全球人工智能安全與治理議題上發揮了獨特的作用。實驗室在巴黎人工智能行動峯會期間作為機構代表受邀赴巴黎參加由阿聯酋穆罕默德・本・拉希德政府學院和生命未來研究所主辦的“AI Safety Connect 2025”，以及由法國亞洲學會與亞洲人工智能安全舉辦的“From Oil to Water: Governing AI as a Global Public Good”等會議，近期，前瞻研究院受邀在新加坡人工智能大會(SCAI 2025)介紹研究成果並組織專題研討，有關超級對齊的研究成果被大會成果文件《新加坡人工智能安全研究優先事項共識(The Singapore Consensus on Global AI Safety Research Priorities)》正面引用，在人工智能安全與治理的國際合作與交流中做出了有特色的貢獻。

巴黎人工智能行動峯會期間“AI Safety Connect 2025”人工智能安全研究機構圓桌研討Beijing-AISI作為來自中國的人工智能安全機構受邀參加

巴黎人工智能行動峯會期間由法國亞洲學會與亞洲人工智能安全舉辦的“From Oil to Water: Governing AI as a Global Public Good”研討會，Beijing-AISI作為來自中國的人工智能安全機構受邀參加

北京前瞻人工智能安全與治理研究院(Beijing-AISI)兩位代表參加新加坡人工智能大會，受邀在論壇環節發言，並與劍橋大學聯合組織專題研討

前瞻研究院第一屆理事會第一次會議

以“北京人工智能安全與治理實驗室”的組織形式通過半年多的籌建與運行，經北京市民政局批覆，北京市經信局作為主管單位，北京前瞻人工智能安全與治理研究院正式成立，考慮機構和成果的延續性，英文名稱沿用實驗室時期的Beijing Institute of AI Safety and Governance (簡稱Beijing-AISI)。

作為新型研發機構和促進應用與產業發展的前瞻研究院以前瞻思想為引領，服務於人工智能產業發展和安全治理的近期與長遠需求，通過開展人工智能安全與治理相關前沿基礎理論研究、關鍵技術研發、標準規範制定、平台工具構建與服務，有效監測和防範人工智能的技術和社會風險，為企業、社會和政府提供人工智能安全護欄與安全人工智能模型與服務。前瞻研究院將發揮科研機構與智庫平台的雙重作用，產出人工智能安全與治理相關的前瞻引領科學思想、制度與政策建議，並以科學與技術進展進行落地賦能與實踐，以安全與治理促進人工智能的可持續發展。

無論是籌建期的“北京人工智能安全與治理實驗室”還是正式成立的“北京前瞻人工智能安全與治理研究院”，為何我們並沒有像國外的機構一樣只是強調了安全？簡言之，安全是護欄、必要時候的剎車，而治理不僅是風險防範，更是方向盤，引導人工智能應當向什麼方向發展，不應當進行何種誤用、濫用甚至是惡用。安全與治理的聯合體系，不僅需要前沿科研機構的引領，也需要產業、教育機構、政府、政府間組織、媒體、公眾的共同參與和構築。北京前瞻人工智能安全與治理研究院形成了以前瞻性願景和戰略性思維引領為根脈與源泉，以安全、倫理與治理為支柱，為人類構築人工智能賦能的和諧共生與可持續發展的未來。

北京前瞻人工智能安全與治理研究院既是在各級政府機構支持下成立的新型研發機構，更是人工智能安全與治理科技與社會力量匯聚的平台。前瞻研究院發源並落地於中關村門頭溝園京西智谷，匯聚了來自中國科學院自動化研究所、中國信息通信研究院、北京大學、清華大學、北京郵電大學等科研團隊力量開展深度合作，並聯閤中科聞歌、昇騰創新、瑞萊智慧、芯盾時代、智慧雲測等人工智能與安全企業共同開展人工智能安全研究與治理實踐，積極構築全球化交流平台，建立健全覆蓋技術研發、風險評估、倫理審查、應急處置的全鏈條安全治理體系。希望與更多的機構、企業、地方與各個國家形成深度合作，前瞻院必將為北京、為國家的人工智能安全與治理體系貢獻中堅力量，為全球人工智能安全與治理的協作與合作貢獻中國聲音，以安全與治理引領人工智能的穩健發展，為全人類與我們共同的未來。

研究院網址：http://beijing-aisi.ac.cn/

聯繫方式：[email protected]

本文系觀察者網獨家稿件，文章內容純屬作者個人觀點，不代表平台觀點，未經授權，不得轉載，否則將追究法律責任。關注觀察者網微信guanchacn，每日閲讀趣味文章。