中方代表：防止出現機器自主殺人

10月21日，中國常駐聯合國代表團網站發佈傅聰大使在安理會“科學發展對國際和平與安全的影響”公開會上的發言，全文如下：

主席，

中方感謝卡西斯外長主持此次會議。我認真聽取了各位專家學者的發言，很受啓發。

新一輪科技革命迅猛發展，是當今時代的顯著特徵。科技發展在賦能各行各業、為人類帶來巨大便利和機遇的同時，也對國際和平與安全帶來新的挑戰。互聯網已成為犯罪團伙和恐怖組織招募、融資、策劃作案的重要渠道。“深度偽造”技術被濫用，助長虛假信息傳播，引發社會爭議和族羣撕裂。網絡攻擊、網絡竊密頻發，損害許多國家的安全和公共利益。人工智能的軍事應用正在顛覆傳統戰爭形態，引發廣泛擔憂。在近期加沙和黎巴嫩衝突中，我們看到人工智能驅動的算法和遠程操縱，可以造成難以想象的破壞和平民傷亡。濫用科技違反國際人道法的行為，應當受到譴責和抵制。

中國高度關注科技治理問題。我們推動安理會於2021年首次討論新興科技，歡迎安理會對此保持關注，支持安理會為履行自身職責，循序漸進地把科技納入工作視野。科技是把“雙刃劍”，我們需要統籌發展和安全，既鼓勵創新又管控風險，讓科技發展真正造福各國和各國人民。我願強調三點看法：

第一，堅持“科技向善”，是規範科技發展的基本要求。要確保科技研發和應用符合倫理規範，符合公認的國際法規則，符合文明進步方向。我們支持聯合國發揮全球科技治理主渠道作用，推動各國在廣泛參與、充分討論的基礎上，探討建立普遍接受的規則規範。

第二，彌合數字鴻溝，不僅是共同發展的要求，也是應對安全風險的需要。發展中國家長期被排除在科技進步之外，就容易成為全球安全的薄弱環節。要支持和幫助發展中國家迎頭趕上，平等享受科技進步帶來的機遇。中方推動第78屆聯大通過了人工智能能力建設國際合作決議，並在今年9月宣佈了《人工智能能力建設普惠計劃》。我們將積極落實計劃提出的“五大願景”和“十項行動”，支持全球南方加強人工智能基礎設施、產業賦能、人才培養、數據建設和安全治理，共享智能紅利。

第三，確保安全可控，是科技發展的底線要求。**要確保人工智能始終在人類控制之下，防止出現機器自主殺人。要反對濫用科技優勢侵犯他國主權、干涉他國內政、破壞他國穩定。要防範網絡攻擊、網絡竊密和網絡軍備競賽，特別是保障關鍵信息基礎設施安全。**中方將繼續在聯大推動“和平利用國際合作”決議，支持推進防擴散目標的同時，促進發展中國家不受歧視地和平利用科技。

主席，

科學無國界。近代以來人類科學探索和技術創新的每一次重大突破，從來都是在國際交流合作中取得的。應對科技變革帶來的風險挑戰，同樣離不開國際合作。

令人遺憾的是，一些有違科學發展規律和歷史潮流的做法正在抬頭。我們看到，個別國家泛化國家安全概念，以防範風險為由，無底線打壓別國高科技企業。他們鼓吹所謂的“脱鈎斷鏈”，對國家間正常的經貿往來和科技交流設置障礙。他們還精心組織各類“小圈子”，將特定國家排除在外，構築所謂的“小院高牆”。這些做法同國家安全的關係實在過於牽強，真實意圖是固化自身技術壟斷、阻遏他國發展，其本質是零和博弈的冷戰思維在作祟。這一系列消極操作已經攪起一片紛亂，“小院高牆”正在變成“大院鐵幕”，嚴重破壞產業鏈供應鏈穩定，加劇發展鴻溝，阻礙科技進步。

我們尤為擔憂的是，同科技本身帶來的風險相比，這種人為製造分裂的做法對國際和平與安全的危害更大，最終可能把世界帶入對抗的深淵。古特雷斯秘書長已明確警告，世界被人為分割成兩個市場、兩套規則、兩大體系，強迫各國選邊站隊，將給所有國家帶來嚴重後果。

主席，

正如《未來契約》強調的那樣，國際合作不是選項而是必需。只有開展最廣泛的合作，讓科技創新服務於聯合國三大支柱工作願景才能成為現實。我們呼籲各國共同秉持開放包容理念，以落實《未來契約》為契機，支持聯合國發揮全球科技治理主渠道作用，推動科學技術助力共同發展、共同安全、共同進步。

謝謝主席。