曾毅：“將中國排除在外，這是不可接受的”
guancha
【文/觀察者網專欄作者 曾毅】
人工智能進展對人類社會變革發揮着深刻的作用，近期在應用與服務方面給予公眾的感受更是達到了前所未有的高度。而人工智能對人類可能造成的潛在安全風險，也從兩百多年前瑪麗·雪萊《弗蘭肯斯坦》中的隱喻和阿西莫夫《我、機器人》中的敍事，迅速進入公眾與政府的視野。
2015年，在波多黎各召開了人工智能安全科技領域的前沿會議。而人工智能安全作為需要國際協作解決的全球挑戰，真正進入公眾與政府視野，還是回到雪萊的故鄉英國，圖靈機與二戰期間恩尼格瑪密碼機的誕生地布萊切利園。
2023年11月在英國舉行的首屆人工智能安全峯會(AI Safety Summit)，最重要的成果當屬《布萊切利人工智能安全宣言(The Bletchley Declaration on AI Safety)》，28國及歐盟在人工智能安全風險認知與議題上達到當時政府層面最廣泛的共識。
這項共識的取得背後是與各國政府和科技界長達半年多的溝通，才推進了這個極具不確定性的議題上取得共同認知。
英美相繼宣佈人工智能安全研究所的成立影響廣泛，但這使得許多國家的代表迷茫於不知如何選邊站，可又何須選邊？
我受邀主持了圓桌會議“前沿人工智能不可預知進展帶來的風險”的研討，並在公開全體會議的總結環節，有機會直面這個問題進行了發言：“我們認為每個國家都應該成立自己的人工智能安全機構。但這還不夠，我們還需要建立一個涵蓋全世界的人工智能安全協作網絡，以期能夠解決不可預知的進展和不可預知的失敗。另外，這次會議我們有28國參加，我們希望能夠進一步提升會議的包容性，下屆能夠有40國，再下屆也許可以是60國”。
會後過去一年多的時間，我們看到至少十餘個國家成立了人工智能安全專門的機構，韓國首爾人工智能峯會上實際已經成立了國際人工智能安全研究所網絡(International Network of AISI)，卻將中國排除在外。而這個會議系列的包容性在首爾峯會並沒有增加，直至巴黎人工智能行動峯會，正式參與的國家達到了80國以上。
2023年在布萊切利人工智能安全峯會(AI Safety Summit)公開會議主會環節發言，筆者建議成立面向國家間合作的國際人工智能安全網絡
2023年在布萊切利人工智能安全峯會(AI Safety Summit)主持“前沿人工智能不可預知進展帶來的風險”圓桌研討
2024年5月人工智能首爾峯會(AI Seoul Summit)雖然由韓國與英國共同主辦，但是峯會的標題中，安全已沒有作為核心。但這屆會議仍然取得了引人矚目的進展，主要是宣佈國際人工智能安全研究所網絡的成立和麪向企業的人工智能安全自願承諾(Frontier AI Safety Commitments)。
布萊切利峯會半年內，全球人工智能安全相關機構已經逐步浮出水面，人工智能安全協作網絡的提議已成為共識，人工智能安全研究所網絡(Network of AISI)應運而生，然而卻是在更小範圍的10個國家和歐盟參與的情況下形成的決議，沒有任何合理的理由，中國被排除在外。
在人工智能首爾峯會部長論壇(Ministers’ Session)上，我聽到時任英國科技、創新與技術部部長對這個情況的介紹後感到完全不可接受，並在安排的學者代表發言環節進行了回應：“國家層面人工智能安全制度的建設每個國家都有不同的選擇，建立單一國家級人工智能安全研究所的國家，目前已然需要面對如何解決國內人工智能安全相關機構之間競爭與協同的問題。
中國與不同部委協同的人工智能安全機構眾多，更適合中國的人工智能安全相關機構組織模式是國家層面的協作網絡，機構之間的互聯與協作甚至可以在國家層面的人工智能安全機制複合體的協調方面發揮積極作用。
國際人工智能安全網絡的概念提出甚至有來自中國的貢獻，而中國被排除在這個網絡之外，這不僅是不可接受的，更是自布萊切利會議努力之後歷史的倒退”。
首爾會議之後，國內相關單位繼續協同推進，“中國人工智能發展與安全研究網絡(China AI Development and Safety Network)”在2024年9月聯合國大會期間，由中國和贊比亞共同作為主辦國發起的人工智能能力建設國際合作高級別會議(High-level Meeting on International Cooperation on Capacity-building of Artificial Intelligence)上，我作為學者代表首次對外宣佈，會議在聯合國紐約總部舉行。
人工智能首爾峯會(AI Seoul Summit)部長論壇(Ministers’ Session)，筆者作為學者代表發言，介紹為應對安全治理機制複合體的發展現狀，中國正在探索以國家層面人工智能安全網絡的形式形成政產學研協作機制
“中國人工智能發展與安全研究網絡”在2024年9月聯合國大會期間，由中國、贊比亞主辦人工智能能力建設國際合作高級別會議上宣介
首爾峯會的另外一項重要成果是面向企業的“前沿人工智能安全承諾(Frontier AI Safety Commitments)”，這項承諾集結了來自多國處於最前沿人工智能模型研發的代表性企業。一年來，英國在承諾參與的企業方面持續發力，至今得到包括中國3家代表性企業，全球共20家領先企業的支持。
自願承諾是企業自律自治的行為，制定並公開安全護欄與框架是人工智能企業推進人工智能安全落地重要的實踐。
與此項工作以及白宮推進的人工智能企業自願承諾相關的，來自中國人工智能產業的集體表態，則是中國人工智能產業聯盟(AIIA)發起的“人工智能安全承諾”，首批得到17家中國領先人工智能企業的支持。
2025年2月於法國巴黎召開的人工智能行動峯會(Paris AI Action Summit)，在這個系列會議中得到了更高的關注和更多國家的支持，這首先得益於在國家參與方面更高的包容性，使得巴黎峯會最終聚集了80國領導人與超過100個國家的各界代表的參與。
可以理解的是，法國召開人工智能的旗艦會議希望全面推進人工智能的科學、應用、文化、治理等諸多方面的進展，但人工智能政產學研領域已有諸多綜合性的國際會議。而相比其他會議，從布萊切利開始的人工智能峯會系列的最大價值，正是會議聚焦人工智能安全與風險。
雖然在此屆峯會名稱上沒有明確體現安全，但是若考慮法國倡導推進“行動(Action)”作為焦點，卻不能得到這屆會議完全忽視安全與風險議題的結論。
事實是，人工智能行動峯會主會公開日的議程有諸多相關議題，包括但不限於”隱私、網絡安全與信息完整性： “利用人工智能保護民主制度”、“加強高效、有效且包容的全球人工智能治理”、“構建可信人工智能：從自願承諾到協作實踐準則”、“邁向安全可信的人工智能：企業承諾”、“邁向安全可信的人工智能：歐盟協作實踐準則”、“人工智能的國際治理”、“為網絡和人工智能安全構建開源未來”等主會場議題和峯會正式專題研討會，覆蓋峯會當天1/3議題。
可也不能説本屆峯會在人工智能安全方面是成果豐碩的，畢竟在安全方面的實際產出沒有像《布萊切利宣言》、《前沿人工智能安全承諾》這樣的代表性工作。
人工智能行動峯會主會日，與法國總統人工智能行動峯會特使Anne女士合影，她2024年底訪問北京並邀請中國政產學研各方代表參加行動峯會。
人工智能行動峯會科學日舉辦“人工智能、科學與社會(AI, Science and Society)”大會，集結了法國人工智能科技與政策最富盛名的相關單位共同組織，由法國巴黎理工學院、法國科學院、法國國家信息與自動化研究院、巴黎高等商學院領銜，是在科學層面推進人工智能行動本屆大會最值得關注的。
會議專門組織了人工智能安全科學(Science of AI Safety and Security)議題的若干研討環節，主要包括“前沿人工智能安全閾值”、“國際人工智能安全報告”、“可信人工智能國際標準”三個主要研討。
嚴格意義上雖然不能算是法國人工智能行動峯會的主要成果，但是“國際人工智能安全報告(International Report on AI Safety)”藉助人工智能行動峯會科學日，確實贏得了更多關注。
該報告由英國人工智能安全研究所主導，邀請包含中國在內的30個國家學者和機構參加，曾於人工智能首爾峯會（AI Seoul Summit）發佈中期報告。我有幸作為報告中代表中國的專家指導委員會委員，參與該報告的全過程。
在峯會科學日的人工智能安全科學研討環節，大會邀請了報告主席Yoshua Bengio對報告進行介紹，並邀請了來自美、中、法的代表共論人工智能安全的未來。
《國際人工智能安全報告》的科學貢獻Yoshua Bengio做了詳細的介紹，百位學者參與的科學報告至少在人工智能領域是一個壯舉。我被主持人問及，我們的報告中哪個風險是最重要的或者最具威脅的。我的回應是：“首先，這如同全球可持續發展目標的17個目標，其中一個失敗了，可持續發展目標就是失敗了，社會都沒有實現可持續。其次，前沿人工智能模型目前具備認知功能自動升級和演化的能力，這意味着對人工智能風險的分級將很難真正控制風險的實際等級，因為風險及其類型將隨自主認知升級失去確定性”。
此外我還談到與《國際人工智能安全報告》一項互補的研究，即由我在中國科學院自動化研究所和人工智能安全與超級對齊北京市重點實驗室的團隊等單位協作共同發佈的《全球人工智能安全指數(Global Index on AI Safety)》報告。
與《國際人工智能安全報告》的互補在於《全球人工智能安全指數》以國家為單位，給出了40個國家在人工智能安全就緒度的現狀，美、英、中三國名列前茅。
有些學者聯繫我們説，報告似乎反映出國家的人工智能安全就緒度，整體而言與國家的經濟水平似乎密切相關。我回復説這正是我們要提醒各個國家的。人工智能的發展水平可能由於各國經濟水平的差異有顯著差異，但是人工智能安全就緒度事關人工智能是否能夠在相關國家穩健的部署與應用，事關對該國可能造成的不可預知的潛在風險的應對。因此即使這些國家在發展方面尚需積累，但是也要在人工智能安全就緒度方面儘快做好更充分的準備。
在回顧《國際人工智能安全報告》形成的過程中的點滴時，我還講了一個很有意義的互動。當我在顧問專家委員會的會議上指出，目前的報告主要聚焦在大語言模型的風險，而對於人工智能規則推理、自然與腦啓發的人工智能等不同的人工智能發展科學途徑存在的潛在風險沒有涉及的時候，Yoshua Bengio指出這也許也是他自己研究上的一種偏向的體現。
作為綜合性的科學報告，這個理由顯然沒有説服我；然而最終報告明確聚焦在“通用人工智能(General-Purpose AI)”的風險上，卻讓我覺得至少更清晰了。
其他途徑發展的人工智能模型目前尚未具備顯著的“通用人工智能(General-Purpose AI)”特徵，在這個階段，可控性方面的風險上確實也應當更聚焦在“前沿通用人工智能模型”。
在巴黎峯會期間形成的《包容與可持續的人工智能造福人類與地球的聲明》也沒有完全迴避安全議題。例如在主要優先議題共識中提到：“確保人工智能開放、包容、透明、符合倫理、安全可靠且值得信賴”，“加強國際合作，以促進國際治理的協調”。
又提及“利用人工智能技術的益處來支持我們的經濟和社會取決於推進信任和安全”，並讚揚了英國和韓國峯會在安全方面取得的進展。
而本次《聲明》中更值得肯定的是對人工智能推進可持續發展、聯合國在人工智能全球治理中發揮的作用與對相關進程的認可、特別是提及人工智能的發展對全球能源的影響，以及提議“與國際能源署合作建立人工智能能源影響觀測站”。
隨着人工智能的發展與應用，以及對可持續發展的積極與負面影響，這項提議及其落實將對人類與環境有非凡的意義。
非常值得單獨提的是願景中提到“人類與地球”，這不是單純的以人類為中心的願景，而是充分考慮人工智能賦能人類生存與發展的同時將人類、生態與地球作為整體共同繁榮、共同發展。因此《聲明》得到了60餘國以及非盟和歐盟的正式支持。
雖然《聲明》提及的諸多理念與共識在2024年的兩項聯合國大會決議《抓住安全、可靠和值得信賴的人工智能系統帶來的機遇，促進可持續發展》、以及《加強人工智能能力建設國際合作》和聯合國《全球數字契約》中都有體現，但是來自60餘國的再次明確支持與進一步的相關行動，仍然能夠為以聯合國為核心的國際人工智能科技合作與治理提供有益的支持。
人工智能行動峯會邊會“AI Safety Connect 2025”人工智能安全研究機構圓桌研討
由法國亞洲學會與亞洲人工智能安全舉辦的“From Oil to Water: Governing AI as a Global Public Good”
與英國和首爾峯會最大的不同是，巴黎峯會其實是峯會周(Summit Week)，圍繞人工智能諸多議題極為豐富的邊會也是峯會周的亮點。在峯會主會上沒有機會展開的議題、沒有能夠形成的交流都在通過邊會以不同形式推進。
我主要參與並作為研討嘉賓發言的公開活動，主要包括由阿聯酋穆罕默德・本・拉希德政府學院和生命未來研究所主辦的“AI Safety Connect 2025”，以及由法國亞洲學會與亞洲人工智能安全舉辦的“From Oil to Water: Governing AI as a Global Public Good”等。
這些活動都在促成不同國家的人工智能安全研究所之間的潛在合作發揮作用。幾位來自不同國家人工智能安全相關研究機構的發言人擁有的共識便是：只有來自不同國家的人工智能安全機構能夠開展更廣泛的聯合測試，才能夠真正意義共護安全，共享發展。
此外，中國人工智能發展與安全網絡、中法人工智能協會等都組織了峯會的公開邊會，為促進中國人工智能的國際合作與交流以不同形式發揮積極作用。
回顧英國、韓國、法國三屆人工智能峯會，可以看到在每屆由一國主導的峯會上堅持統一的議題巨大的挑戰。倘若三屆峯會能夠持之以恆地堅持人工智能安全議題，那麼這個系列峯會的意義和影響將是巨大的。
然而主辦國從不同視角出發的考量也確實難以視而不見，這導致了人工智能安全與風險管控議題難以如會議系列開始階段的高效推進。
加之近期美國人工智能安全管控政策方面的不確定性，以及英國人工智能安全研究所更名等一系列相關影響，急需穩定並推進國際人工智能安全協作。
來自政產學研圍繞人工智能安全的各方努力，需要轉化為一個持久、包容且由社區驅動的人工智能安全進程(AI Safety Process)。該進程應具有靈活性，能兼顧不同觀點，確保各國在不同時期推進人工智能安全工作的連貫性、協調性和可擴展性。
人工智能安全進程應造福全人類，而不應由任何一個國家或組織獨佔。它需要所有利益相關方跨越時空，在一個協調的框架內持續共同努力，得到學術界、產業界、公民社會、各國政府、政府間組織等各方的參與、推動和支持。
可持續地推進全球關鍵議題，聯合國仍然是最合適的平台，因此應當支持聯合國發揮核心作用，但這並不意味着需要在聯合國框架下開展所有的工作。
聯合國發揮的作用是激發各個層面的協作和夥伴，將成員國、其他政府間組織、機構的努力匯聚成高度交織並深刻互聯的網絡，聚流成河，匯江成海。三屆峯會中，法國峯會從會議內容和《聲明》給予了聯合國更多的認同，這是值得讚賞的。
另一方面，三屆峯會期間人工智能安全方面的產出，以及韓國、法國峯會期間在人工智能賦能可持續發展方面的產出，都與聯合國框架下開展的工作形成互補的貢獻，聯合國與成員國及峯會主辦國之間需要更積極地將這些互補的努力化為全球貢獻，以通過人工智能穩健、安全與可持續的發展推進人類與生態共生的未來為目標，以不使任何一個國家，不使任何一個人掉隊為使命。
本文系觀察者網獨家稿件，文章內容純屬作者個人觀點，不代表平台觀點，未經授權，不得轉載，否則將追究法律責任。關注觀察者網微信guanchacn，每日閲讀趣味文章。