金磚國家領導人關於人工智能全球治理的聲明

外交部網站9日發佈金磚國家領導人關於人工智能全球治理的聲明，全文如下：

人工智能代表着推動全球邁向更加公平未來的重要機遇，將激發創新、提升生產力、推動可持續發展實踐，並切實增進全人類福祉。

為實現上述願景，人工智能全球治理須降低潛在風險，着力解決各國特別是全球南方國家的需要。治理須在《聯合國憲章》和各國監管框架下開展，尊重國家主權，遵循代表性、發展導向、可及性、包容性、動態更新和敏捷性原則。治理應切實注重個人數據保護，保障人類權益，確保安全、透明、可持續，且有利於彌合本國及國家間日益擴大的數字與數據鴻溝。世界各國應共同努力，構建以聯合國為核心的人工智能治理體系，弘揚共同價值觀，應對風險，建立信任，確保廣泛包容的人工智能國際合作與可及性，包括加強發展中國家人工智能能力建設。

在國際層面，各類治理倡議的激增及多邊協調中的分歧，可能加劇現有不對稱和全球數字治理的合法性赤字，從而進一步削弱多邊主義。

為支持開展建設性對話，實現更加均衡的治理路徑，我們，金磚國家領導人一致同意制定一系列指導方針，以負責任方式推動人工智能技術開發、部署和應用，助力實現可持續發展和包容性增長。這些方針僅限於非軍事領域的人工智能，應通過國內或適用的國際框架及具有互操作性的標準與協議，以包容、透明、基於共識的方式予以落實。

一、多邊主義、合法性與數字主權

聯合國是人工智能全球治理的核心。全球人工智能治理必須不惜一切代價避免碎片化與重複。我們必須依託聯合國系統作為充分包容且具有代表性的國際框架推進人工智能國際治理。在聯合國相關倡議的決策進程中，我們須推動新興市場和發展中國家及全球南方國家有意義參與併發揮作用，同時認識到區域和多利益攸關方框架的互補作用，鼓勵開展人工智能政策交流和對話，激發創新活力，促進經濟增長。

人工智能協同共治錯綜複雜，但前景可期。發達國家與發展中國家的相關利益攸關方網絡應根據各自角色與責任，貢獻專業知識、觀念和資源。重申各國政府在人工智能治理中佔據基礎性和主導性作用，我們願同私營部門、民間機構、國際組織、科研和學術團體以及其他利益攸關方密切合作，以實現代表性和包容性。

數字主權和發展權是全球人工智能治理的關鍵。我們堅定支持各國在捍衞基本權利的同時，有權充分利用數字經濟與新興技術特別是人工智能帶來的發展紅利，通過加強數字基礎設施建設、培育本土技術人才、確保公民免受人工智能風險傷害等方式，制定本國法律權限範圍內的人工智能監管框架，提升人工智能研究能力，培育自主技術創新，確保數據安全，推進本國數字經濟發展。

二、市場規範、數據治理與技術可及性

公平競爭和市場規範是人工智能邁向公平未來的基石。數字經濟應根據國內法律框架和法規及適用的國際協定，明確國家、企業與用户的權利和義務，構建公平競爭的市場環境，促進創新和經濟增長。我們強調避免監管體系碎片化，推動公平、透明的市場規範重要性，鼓勵競爭，增強競爭力，避免任何形式的扭曲行為，營造可持續、健康的市場環境。

數據治理是人工智能包容性治理的關鍵。我們強調，公平、包容和公正的數據治理對發展中國家利用數字經濟和人工智能等新興技術至關重要。我們同樣認識到需根據《金磚國家數據經濟治理諒解》建立數據治理框架以建立信任，在尊重隱私權、個人數據保護、算法透明性、知識產權和國家安全等相關法律框架的同時，為發展中國家提供公平、一致、安全、可靠的高質量數據。

人工智能技術獲取應遵循公平、公正、賦能性與包容性原則。世界各國，無論處於何種經濟發展階段，均享有開發、使用人工智能並從中受益的權利。我們強調應通過國際合作促進人工智能技術及關鍵部件的獲取，消除人工智能研究與創新的資金壁壘，尤其是在中低收入國家構建必要的知識、技能與風險管理框架，以有效利用人工智能技術。

保護知識產權與維護公共利益之間需要平衡。應在專利權、透明度及問責制之間建立平衡，以維護公共利益，促進國際技術轉移，遵守國內法律及適用的國際法。針對未經授權的人工智能使用，應建立適當的知識產權特別是版權保護機制，防止剝奪性數據提取和隱私侵犯，同時建立公平的補償機制。相關保護措施應明確問責機制，遵守人工智能模型輸入與輸出透明度要求等相關法律。

人工智能發展應堅持開放原則，鼓勵創新生態系統。在符合各國政策與優先事項的情況下，我們鼓勵通過開放科學和開放創新機制推動開源發展和國際科技合作，將其作為提升人工智能研究、開發、創新、數據保護、數據主權及部署能力的關鍵引擎，允許研究人員、開發者及相關組織進行審查和審計，進而構建安全、可信、透明的人工智能系統。我們必須確保實質性參與並培育包容性協作方式，防範全球人工智能發展和供應鏈壁壘。我們鼓勵開發資源高效、專業、開放的基礎模型，促進人工智能創新生態系統發展。

國際標準應助力實現具有包容性、代表性及可及性的人工智能。制定人工智能系統技術標準、規範與協議應有公共部門、標準制定組織及聯合國專門機構的參與，以確保在人工智能技術全開發週期及跨平台應用中具備可信性、互操作性、安全性與可靠性。我們必須杜絕以標準制定變相為中小企業及發展中經濟體構築市場準入壁壘。

三、公平與可持續發展

人工智能應普惠共享。健全的基礎設施、有意義的互聯互通和數字包容是任何國家部署人工智能的先決條件。在數字公共基礎設施等基礎上構建的數字政務服務，可能會成為數字經濟包容性發展、保障公民權利與福利的催化劑。應通過國內政策、多邊開發銀行等解決能力和基礎設施領域存在的普遍差距，以推進人工智能在新興市場國家和發展中國家的應用與開發。

人工智能引領協同可持續發展。我們致力於通過開源等方式支持人工智能應用，應對醫療衞生、教育、安全、交通、能源、農業、環境、水資源及廢棄物管理等領域的關鍵發展挑戰，相關工作需遵循各國法律與優先事項。應持續推廣人工智能對可持續發展的益處。我們將聚焦培育、賦能本土技術能力與抱負的研究、開發與創新倡議，彌合發達國家與發展中國家間的技術鴻溝。

環境可持續性是人工智能發展的前提。人工智能應幫助減排、適應氣候變化、助力環境保護、推動可持續資源管理與優化、維護生態平衡，助益經濟社會可持續發展，並與各國優先事項保持一致。開發和部署人工智能應具有可持續性，最大限度減少其對環境的影響，應對温室氣體排放、能源和水資源消耗、材料使用以及電子廢棄物等問題。發展中國家應把握低碳經濟轉型帶來的機遇窗口，並通過人工智能領域的技術進步引領發展。

人工智能應保障體面勞動，提高生產力。人工智能系統有提高生產力、激發創新活力、創造就業機會的潛力，但同時也給勞動環境、工作強度和崗位替代帶來挑戰、關切和風險，對就業和勞動者尊嚴構成威脅。當前，數字平台快速發展，生成式人工智能等對就業市場的結構性影響日益顯著，我們應保障全體勞動者特別是直接受到數字化轉型影響羣體的權力與福祉。在設計、部署及使用人工智能時應考慮人力資源的適應性和兼容性，利用人工智能等技術的優勢，促進體面勞動，實現充分和生產性就業。

人工智能應成為變革教育和學習的工具。人工智能系統能夠整理信息、定製個性化體驗和提供建議，我們擔憂，過度依賴人工智能系統可能對人類認知、決策過程及應對複雜信息環境的能力產生影響。我們致力於提升民眾數字素養，特別是教師與學生的數字素養，使其能夠審慎評估人工智能生成內容，理解算法固有的偏差，培養強大的知識自主意識和批判思維能力。

四、符合倫理的、可信的、負責的人工智能，造福所有人

人工智能必須具有包容性。我們認識到，在數據集和人工智能模型中，知識、文化遺產和文化價值的缺乏存在被濫用和歪曲的風險。我們重申構建合乎倫理的、透明的和負責的框架具有重要意義，例如聯合國教科文組織提出的《人工智能倫理問題建議書》。人工智能系統的研發必須充分尊重各國語言、文化、種族、地理及人口多樣性。我們為此應開展國際合作，來訓練全面、多語種、包容的優質數據集，並培育本土人工智能人才。

必須着力減輕歧視性偏見。我們需要有力工具識別並減少錯誤及負面算法偏差，確保獨立審計機制以維護公平，制定針對偏見風險的評估標準，避免歧視性和排他性現象。使用歧視性數據訓練的人工智能系統，往往對女性、少數族裔、殘障人士以及兒童、青少年、老年人等弱勢羣體影響最為嚴重。推動不同背景人員開展跨學科合作對制定標準、提升模型運行與輸出的可解釋性、制定切實可行的治理策略至關重要，有助於防範負面偏見，支持負責任、公平地開發人工智能系統。

必須將公共利益置於首位。我們將秉持以人為本的理念，構建和諧的人機交互關係，始終將人工智能作為提升人類自身能力的有力工具，確保人類對人工智能的最終控制權和監督權。我們將構建人類監督機制、提升人工智能決策透明度和健全有效的問責體系作為優先事項，以負責任且安全的方式推進技術研發與應用，降低相關風險，實現社會效益最大化。

必須堅持以事實為基礎。人工智能生成的虛假文本、圖像、音頻及視頻內容對信息真實性和完整性構成嚴峻威脅，可能引發輿論操控、社會動盪，影響公共機構公信力。我們將採取多維治理方式，提升信息完整性，強化媒體教育策略和地方傳播工作，包括研發快速識別虛假信息和錯誤信息的工具，提升個體數字素養與批判性思維以增強網絡內容鑑別力，制定明確的倫理準則與法規，在保護隱私權與數據安全的同時，滿足人工智能在信息傳播領域的開發和應用。

人工智能系統必須堅守安全與信任。我們認識到，需要實現人工智能安全、符合倫理、可信賴且負責任的發展，造福全人類。各國必須在遵循本國政策與安全考量的前提下，協同推動人工智能技術創新與可及性，同時應對人工智能技術引發的即時與長期風險。我們重申，攜手應對並防範人工智能技術惡意應用的有關風險的重要性。應審慎設計人工智能系統及其他信息通信技術，使其能有效檢測並防止技術濫用，例如欺詐、計算機攻擊、網絡犯罪或數據操縱等。

五、未來之路

通用人工智能應以審慎方式發展。至關重要的是，通用人工智能研究應遵循倫理準則，並以負責任且可信賴的方式進行應用，助力各國特別是新興市場與發展中經濟體的經濟增長，並應對經濟社會發展面臨的緊迫挑戰。若僅有少數實體掌控通用人工智能，將加劇不平等，催生新型技術依賴，對可持續發展帶來嚴峻挑戰。

邁向公平、包容的人工智能。金磚國家將採取共同、積極舉措，為所有人創造公平的數字環境，確定共同觀點，加強全球合作，推進聯合國全球人工智能治理對話和國際人工智能科學小組，確保發展中國家有意義地參與相關進程併發揮作用。我們將彙集各方力量，在國際平台上推廣包括上述指導方針在內的共同原則。我們歡迎各方特別是廣大發展中國家為完善指導方針貢獻智慧，將秉持開放態度持續優化相關準則。