熊節 | 人工智能治理：中美聯合國握手，哪裏求同，哪裏存異？

編者按：從硅谷到華強北，從莫斯科到以色列，從實驗室到辦公室，從課堂到戰場，全球人工智能（AI）技術飛速發展，等不及人們爭論出個結果，就已經快速應用到人類世界的方方面面。

AI治理課題隨之變得極為緊迫和現實。

日前，中國向聯合國大會提交的“加強人工智能能力建設國際合作決議”，獲得美國聯署，獲得通過。兩個大國在AI問題上攜起手來，促進全人類共享智能紅利。

這是中國在AI治理問題上推動全球合作的最新進展。

2023年10月，習近平主席宣佈中國提出《全球人工智能治理倡議》，願同各國加強交流和對話，共同促進全球人工智能健康有序安全發展。

今年5月，習近平主席在法國進行國事訪問期間，與馬克龍總統共同發佈《中法關於人工智能和全球治理的聯合聲明》。

今年2月，印尼在全球人工智能倫理論壇上提出了在全球人工智能治理時要考慮到“全球南方”，國際社會大多數的聲音，也應認真傾聽。

面對這一全球挑戰，中國是何立場，有何抓手？如何平衡鬥爭與團結？應當依靠誰，團結誰？科工力量與華東師範大學國際傳播研究院全球南方研究中心主任熊節進行了深入探討，以下是此次對話實錄：

科工力量：對全球AI治理來説，AI武器化可能是我們面臨的顯性問題，AI武器化有哪些途徑？

**熊節：**在我們不久前的探討中，參考了美國去年11月由拜登總統所發佈的《關於人工智能的安全、可靠、可信發展和使用的總統令》及白宮的解讀。

2023年11月，美國總統拜登簽署了《關於人工智能的安全、可靠、可信發展和使用的總統令》（Executive Order on the Safe,Secure,and Trustworthy Development and Use of Artificial Intelligenc）。新華網

我們之所以借鑑美國的觀點，是因為美國在人工智能技術方面最為先進；同時，歷史上，美國在將科學技術武器化方面也處於領先地位。因此，我們應該首先參考美國的思路，瞭解他們如何看待這一問題。

從總統令中，我們可以看到幾個主要方向：第一種是人工智能對關鍵基礎設施的影響，可能產生交通、能源、化學、生物、輻射和數字空間等領域的影響。隨着整個社會的數字化程度越來越高，基礎設施越來越多地採用計算機數字化管理，人工智能的應用也在增加，數字世界的攻防戰一直持續不斷，在人工智能被引入後，對抗性會更強。

第二種是利用人工智能進行危險生物材料研發的風險。這一點在拜登總統令中被特別強調，必須引起我們注意。解讀中提到，政府採購需要與私營部門合作，列出篩選後的供應商清單。我們從中可以推斷，美國不但已有廠商在進行相關工作，而且這些廠商希望通過影響政策來壟斷相關業務，防止其他企業介入。這些企業的活動內容值得我們深入關注。

由於現階段蛋白質合成技術在很大程度上依賴於“窮舉法”，而人工智能無疑能大幅提高這一過程的效率和準確性。如果這種技術被用於危險目的，比如戰爭，那麼它也能大幅提高生物武器的製造效率。鑑於美國在這方面的歷史記錄並不良好——德特里克堡生物實驗室曾經接受日本731部隊的所謂科研成果，並且曾在朝鮮戰場、越南戰場多次使用生化武器，這一點必須警惕。

位於美國馬里蘭州的德特里克堡生物實驗室中新網

第三點是利用AI生成內容來製造欺詐和假新聞的風險。以前，造謠傳謠主要是通過文字內容，如今配合人工智能深度偽造等相應技術，現在視頻造假內容也越來越多。我們已經看到，宣傳戰、輿論戰都是美國混合戰爭的關鍵組成部分，人工智能技術將在其中發揮重要作用。

科工力量：類比“核俱樂部”、“太空俱樂部”，現在美國明顯正在努力推動“AI俱樂部”，您認為AI武器化能否成功？

**熊節：**我認為一定會成功。從最初的木棒到後來的各種技術，人類有一種不好的傳統，那就是將一切能夠武器化的東西都武器化。另外，如果與“核俱樂部”相對防止了核擴散的情況相比，我覺得AI大模型的擴散是更令人擔憂的問題。當初，核武器的出現，很快就形成了一種“末日威懾”，相比之下，AI的武器化在單次打擊的毀滅力上沒有那麼強，因此其帶來的恐懼心理相對較低，但另一方面，AI的可獲得性卻比核武器大大提高，軟件可以零成本複製，大模型複製起來可能稍微困難一些，但最多也只需處理幾百GB的數據，如今要控制一個AI大模型的擴散幾乎是不可能的，各種犯罪團體、極端主義團體都可能獲得大模型。

ChatGPTpixabay

科工力量：包括中國在內的南方國家怎麼應對？

**熊節：**7月1日，第78屆聯合國大會通過了一份重要決議《加強人工智能能力建設國際合作決議》，這份決議由中國主提，140多國參加決議聯署。

7月1日，聯合國通過《加強人工智能能力建設國際合作決議》現場中國日報

這份決議強調人工智能發展應堅持以人為本、智能向善、造福人類的原則，鼓勵通過國際合作和實際行動幫助各國特別是發展中國家加強人工智能能力建設，增強發展中國家在人工智能全球治理中的代表性和發言權，倡導開放、公平、非歧視的商業環境，支持聯合國在國際合作中發揮中心作用，實現人工智能包容普惠可持續發展，助力實現聯合國2030年可持續發展議程。

這與將AI武器化、用於謀求霸權地位的立場和做法形成鮮明對比。

從社會主義新中國立場和傳統出發，我們的態度是，不追求武器化，但不放棄武器化。我們不會主動侵略或欺負別國，但要維持和平，首先需要有鬥爭的能力，武器是這種能力的重要部分，如果沒有武器化的能力，就可能面臨捱打的風險。

技術上，數字世界的攻防往往是一體的，我們需要的是堅固的“盾”，但前提是擁有足夠鋒利的矛，才能幫助我們識別和防範各種高度動態化的威脅。如果我們想要促進賽博空間的和平，其方式可能不是通過每個國家都擁有最強的武器來形成相互威懾，而是通過普及更有效的防範措施，讓所有國家都能受益，這樣，AI武器可能就難以發揮作用了。

pixabay

科工力量：AI治理背後仍然是數字主權的問題？

**熊節：**是的，數字主權這個課題比較新，多數相關的論文也都是在2019年之後發表的。我是做全球南方研究的，以個人經驗來看，許多南方國家對此還沒有重視，甚至沒什麼概念。

首先，讓我們來探討一個總體的概念：數字主權究竟是什麼？我們之前已經討論過對數字主權的兩種從根本上截然不同的觀點，一種觀點認為，數字空間是一個全新領域，一片新的“處女地”，在這裏，權利、義務和法律都與現實完全不同，人們可以完全自由地活動，這主要是西方、尤其是美國的觀點，因為最強大的幾家科技巨頭都在美國；另一種觀點則認為，數字空間是國家物理疆域的自然延伸，國家主權的概念也從領土、領空、領海延伸到數字空間，這也是中國政府的立場。

前CIA職員愛德華·斯諾登曾將兩份絕密資料交給了英國《衞報》和美國《華盛頓郵報》，曝出了震驚世界的稜鏡門。全世界都意識到了當數字主權不在自己手中，竟會帶來如此巨大的麻煩。新華社

從我的觀察來看，特朗普擔任總統後，由於美國的一些行為，其他國家才開始紛紛意識到在數字空間建立主權的重要性。

主張數字主權的目的有幾個：首先是保障國家安全，這涉及到剛才的“AI武器化”的話題。我們已經清楚地看到，如果無法控制數字空間，一個國家的政權和主權安全將十分脆弱，利用社交媒體影響選舉的例子已經很多，在AI技術的加持下，影響輿論的工具變得極大豐富。

第二個目的是數字經濟的主導權。今天，數字經濟已經是國民經濟的重要組成部分，有一些研究者認為，在不遠的將來，數字經濟參與GDP的比重可能高達60%。問題在於，這塊經濟“蛋糕”是由誰來掌控？——是國家？本國企業？還是那些超級跨國企業（主要是美國企業）？

第三個目的是保護本國的數據安全和個人隱私。公民的數據安全和個人隱私應當由本國法律保護？還是放到Google服務器上，接受美國法律的保護？這無疑是一個重要的問題。

構建面對AI的攻防體系，實際上是實踐數字主權和國家安全目標的一個方面、一種方式。

在很大程度上，數字主權是一個整體概念，需要技術和政策層面共同來實現，它要求在多個方面實現獨立自主。

第一是對數據的自主權——能否將國家產生的數據掌握在自己手中；

第二是基礎建設的自主權，主要指的是新的數字基礎設施——硬件、軟件、雲服務以及網絡設施等。例如，歐洲目前面臨這一問題，儘管GDPR原則上要求數據自主，但由於軟件和硬件不在自己的控制之下，這一規定實際上意義不大，數據還是被美國科技巨頭拿走了。政府要求大企業將數據留在國內，但實際執行程度取決於政府與跨國企業的博弈和相互依賴程度。

第三是科技的自主權。在中國，除了當前受到廣泛關注的芯片領域外，還有許多其他科技領域正在被“卡脖子”。如果科技不能自主，基礎建設的自主性也會受到限制。

第四是治理的自主權，在前三項的基礎上，國家是否有能力提出並實施自己的數字空間治理理論、體系和方案？當前，美國學者強烈反對以中國為代表的互聯網治理制度，他們聲稱，互聯網應該是一個開放自由的領域，這種所謂自由和開放實際上意味着對處於強勢地位的美國企業和美國技術敞開大門。

除了中國外，幾乎所有重要的國際互聯網領域，尤其是軟件層面，都是受到美國大企業控制的。因此，AI治理問題，背後是一個關於數字世界治理能力的系統問題。

關於數字主權問題，當前可以明顯地看到幾個不同的立場。美國對此持強烈反對態度，從政府到學術界和企業界均是如此。世界經濟論壇曾發佈一份白皮書，積極主張跨境數據的自由流動，他們建議其他國家不應限制數據的流動，甚至包括涉及犯罪的數據——他們聲稱：如果政府需要，可以和掌握數據的大企業協調來獲得這些數據。——當然，在特朗普過去幾年不遺餘力地強調“美國第一”和單邊制裁的教育下，這種觀點在許多人看來已經頗為荒謬。但這代表了美國政府、企業界、學術界的共識，他們非常反對數字主權的概念。

歐洲方面的立場是重視數字主權，並積極推動相關事務，這大約是從斯諾登事件，尤其是當默克爾得知自己的電話被監聽後開始的。歐盟的GDPR在2018年5月生效，被視為“史上最嚴”的數據保護立法，企業在發生數據泄露事故的情況下可能會面臨高達年收入4%的罰款，但歐盟很快發現，光罰款不解決問題，於是歐盟又在2020年9月成立雲基礎設施組織“蓋亞X（Gaia-X）”，作為是歐盟實現數字主權的核心工具之一，它被視為歐盟打破美國公司在雲基礎設施領域壟斷地位的重要舉措。

維基解密曾在2015年宣稱,美國國家安全局(NSA)竊聽德國前總理默克爾及其最親密顧問的電話長達多年,並對德國前任總理的下屬進行了秘密監視。新華社

中國在全球南方中比較特殊。根據我的研究，中國至少從2006年就開始非常強調數字主權。中國明確主張將網絡空間視為現實空間的延伸，強調精神文明建設的重要性。從那時起，中國在這方面一直有着清晰的認識，並穩步推進。從效果上看，中國在科技自主和治理制度方面都取得了良好的成果，儘管在科技前沿還有一些卡脖子的領域、參與國際治理方面還有一定差距，但總體而言，中國在數字主權方面是相當有力的。

科工力量：您提到對於歐盟這樣的經濟體來説，數字主權的獨立自主都成問題，對於廣大南方國家就更困難了，這怎麼辦？

**熊節：**是的，這個觀察很重要。

全球南方國家目前面臨的首要問題在主觀意識上，包括印度、巴西和南非等體量較大的國家，廣大南方國家中的大多數還沒有意識到數字主權的重要性，沒有形成對數字主權系統性整體性的認知，策略上也顯得不夠成熟。

今年2月，第二屆人工智能倫理問題國際論壇在斯洛文尼亞舉行央視

今年2月，印尼官員在聯合國框架下的全球人工智能倫理論壇上提出，在制定全球人工智能（AI）治理時要考慮到“全球南方”，這是一個積極的信號。值得一提的是，今年正值和平共處五項原則誕生70週年，這一系列簡潔、清晰、明確的國際關係指引正是在印尼誕生的，未來或許可以討論將和平共處五項原則引入到數字空間。

最近，中國領導人在一次講話中提到，歡迎更多全球南方國家加入數字經濟和綠色發展的國際經貿合作框架。包括之前的數字絲綢之路倡議，這些都是非常好的提議。

個人認為，在推廣中國的數字治理能力和經驗的過程中，我們應該明確提出數字主權作為一個課題，如果我們不主動構建這一框架，可能會被別人利用。中國正在幫助全球許多國家建設基礎設施，包括華為、中興等企業也作為數字基礎設施的建設者正在走出去，並且已經遭遇了所謂“危害國家安全”的莫須有的抹黑。我們應該主動考慮拋出和構建這個話題，而不是等待被迫回應。

科工力量：中國的立場向來是反對霸權、反對壟斷。ChatGPT推出後，OpenAI+英偉達芯片+CUDA生態似乎成了全球人工智能的唯一解。而華為（昇騰芯片、盤古大模型）、訊飛（大模型）為代表的中國科技企業，在這個問題上的自我定位是“為世界提供多一種選擇”，對於南方國家來説，“多一種選擇”有意義嗎？

**熊節：**我認為今天的世界對於人工智能的發展存在一種迷思，也關乎Open AI的大語言模型GPT在歷史上的地位問題。我們需要糾正一個觀點，過去兩年，人們可能過度誇大了GPT的作用，錯誤地認為它即將實現通用人工智能，但事實並非如此，GPT並不是真正的“通用大模型”解決方案，它只是專門針對人類語言進行特化的一個垂類模型，由於它能夠與人類進行對話，使人們更容易將其聯想到真正的“智能”，但它仍然不是通用的，只是專注於語言處理的大模型。

大語言模型手機應用pixabay

我們需要認識到，人工智能的發展方向是多樣的。大語言模型本質上是一種語言處理的AI工具，計算機是通過人類語言接收信息來“理解”世界的，換句話説，這些信息對機器來説是“二手”的。今年以來，市場上“具身智能”概念很熱，中國在具身智能上也有產業鏈優勢。具身智能並不限於人形機器人，而是泛指具有實體，並通過多種傳感器收集物理世界信息的人工智能系統。許多AI的工業應用，實際上都可以視為具身智能。這些系統獲取的數據是直接的，即計算機通過各種傳感器直接與物理世界交互，而非通過人類語言再轉換為機器語言。

如果我們將視野從純粹的虛擬世界擴展到虛擬+實體，我們會發現，不但人工智能的發展方向是多元的，GPT只是眾多發展方向中的一種，而且中國在一些領域可能已經領先於美國，例如一些電商平台帶來的低價，其中一大部分降本空間就來自所謂的“黑燈工廠”和“黑燈物流”，由於生產和物流過程中可以最大程度減少人工干預，因此可以實現24小時不間斷的自動化運轉，這是人工智能已經給我們很多人帶來的紅利。

單極和壟斷導向的是效率低下，在經濟學中，市場競爭被認為是推動效率和創新的關鍵因素，因此“第二選擇”是至關重要的。對於全球南方國家而言，如果沒有中國，他們或許別無選擇，也無需考慮。但現在，所謂一生二，二生三，三生萬物，擺在眼前的不但有美國的方案，有中國的方案，還會有歐洲的方案，不久前中法兩國剛剛達成的《中法關於人工智能和全球治理的聯合聲明》，不要忘記，無線通信行業從3G到4G，從4G到5G的發展過程中，就是中歐聯手，形成了世界標準。

《中華人民共和國和法蘭西共和國關於人工智能和全球治理的聯合聲明》外交部

在構建人類命運共同體的數字空間時，中國的目標不是取代美國成為單極，而是希望各國能夠實現獨立自主的發展，同時又能實現互聯互通和共享繁榮。我們必須承認，單極體系的構建相對簡單，而一個多極化、多元化的架構無疑更具挑戰性，目前，我們可能還沒有一個明確的答案，也不一定能很快找到答案。因為構建這樣一個架構的過程，既是技術層面的，也是治理層面的。它需要中國和全球南方國家共同探討，在民主的政治框架下形成共識。

在這個過程中，中國的角色定位首先是美國數字霸權的挑戰者，我們首先是作為“第二選擇”的提供者，以及新理念、新經濟的踐行者和示範者，這不僅包括技術創新，還包括產品開發和治理經驗的分享。我們的目標是為全人類的數字空間提供公共價值，而不僅僅是人工智能技術的發展。

科工力量：在高文院士看來，中國發展人工智能，有數據、應用場景和理工科青年人才數量方面的優勢，但大師級別的高端人才缺乏仍是短板。您認為，我們要發展人工智能的治理能力，IT工程師是能夠依靠的力量嗎？

**熊節：**我認為我們社會對科學技術的看法需要進行一定程度的調整，特別是最近二三十年的發展中，科學研究的本質已經發生了顯著變化。科學研究的前沿領域如今已不再是完全依賴純粹的理論或思辨性研究，更多是要基於工程的實踐研究。

以歐洲的粒子對撞機實驗室為例，他們發表一篇論文經常會有上千個作者，這不僅是因為研究的複雜性，也是因為需要眾多工程人員的協作才能完成實驗。不但產學研應當結合，而且科學研究本身已經離不開工程問題，大師的洞察力和思辨能力雖然重要，但已不是唯一的決定性因素，科學技術研究的方式已經進入了一個新的時代，但全社會對此的認識還不夠清晰，我們仍然存在一種觀念，即科學研究是以思辨為主，而技術工程是實踐為主，這種將科學與技術工作割裂開來的觀念已經過時。

要討論程序員或軟件工程師是否構成新的工人階級，我們應該首先認識到工程技術是科學前沿發展的必要條件。科學前沿的推進不再僅僅是實驗室裏少數人通過思辨來實現的，而是整個行業——包括製造芯片、編寫平台、雲計算、應用開發、數據分析和數據呈現等一大批工程師共同努力的結果。

從這個角度來看，我們可以理解為什麼美國的AI技術的發展可能已經落後，儘管在普林斯頓、MIT等高校中可能有在最前沿的算法和人工智能方法上取得重大突破的大師，但如果缺乏真實的產業場景和工程人員，並不足以支撐整個人工智能學科的前沿發展。科學的前沿是通過整個工程、應用和市場大環境共同推進的，所有從業者都是推動科技前沿發展的重要組成部分。我們不能期望僅通過高校培養出能夠獲得諾貝爾獎或者菲爾茨獎的大師，就能大幅度推進人工智能技術的前沿。這是一個錯誤的想法。

科工力量：從這個角度來説，中國在人工智能發展和治理上的實踐，對廣大南方國家也有借鑑意義，因為各國的實際情況和產業場景都是豐富多樣的，人才也是可以培養的。

**熊節：**是的，但廣大亞非拉國家首先需要意識到這個問題，其次，需要儘快加入到這個快速發展的業態裏面來，目前，很多國家在這個問題上缺乏足夠的技術能力，同時缺乏相應的思考，在沒有技術能力，沒有工程環境的情況下，他們甚至無法思考這個問題——思考了也沒有用，沒有實踐支撐的話，可能連有意義的問題都找不到。所以中國必須要引領，把全球南方納入到人工智能發展的進程裏面來，讓更多的國家的本土人才都能夠參與，通過參與實踐提升他們的能力，然後再回饋他們自己國家的發展。

科工力量：我提一個比較功利的問題，這麼做對中國有什麼好處呢？

**熊節：**人類命運共同體看似理想主義，其實也非常現實。

從2015年11月的中央扶貧工作會議召開到今天過去，中國通過扶貧攻堅、開發農村和縣域經濟下沉市場以及基礎設施建設，使更多人具備購買力，將更多地區市場納入整體的國內國際經濟雙循環之中，從而擴大了經濟規模。

同理，只有全球南方國家普遍實現了發展，並走上各自的現代化道路，才能擴大整個全球市場的規模，工業化和現代化是必要的，只有在滿足了基本生活需求之後，人們才會對更多的物質產品產生需求，從而形成真正的需求市場，中國的產品到當地，當地生產的產品也賣到中國，才會有人民幣的國際循環，才能為中國企業提供拓展自身發展空間的機會。所以，人類命運共同體不僅是一個願景，還代表了實現全球經濟循環的具體途徑和中國經濟發展的真正未來。

中國助力非洲農業現代化計劃新華社

科工力量：所以我們才會從根子願意推動技術普惠，那麼在實踐中還會有怎樣的困難？

**熊節：**首先，我們有責任主動幫助南方國家對AI祛魅，推動技術普惠，我們承擔着教育的責任。如今與過去反殖民鬥爭時期不同，當時的壓迫是顯性的，像法農這樣的思想家，通過深入思考就能形成反殖民的理論，就能教育非洲人民進行鬥爭。當前，我們面臨着AI武器化、數字鴻溝擴大以及人們對未知技術的天生恐懼等問題，在數字主權問題上，如果沒有技術基礎和工程能力，人們甚至無法開始思考這個問題。因此，中國有責任去發揮引領作用。

其次，我們需要建立一種更具體、更實際的機制，要將中國、俄羅斯、沙特、印尼、新加坡等等國家的相關領域專家聚集在一起，例如在金磚+的體系下形成一個緊密合作的工作組，共同探討數字主權問題。

金磚合作模式助力全球南方發展中新網

需要研究的問題是非常具體也非常緊迫的：我們需要達成什麼目標，如何實現這些目標，以及如何構建一個多邊治理結構。這不僅是一個技術問題，也是一個經濟和政治問題。同時，還要積極開展合縱連橫，團結法國、德國以及美國所有意識到數字霸權和反壟斷重要性的專家、工程師和技術人員，建立一個開放、開源的平台，促進共同研究和討論。這些問題已經迫在眉睫，需要我們立即着手探討和解決。

歷史上，開源軟件社區對軟件的民主化進程起了很大的作用，西方的很多技術專家和工程師在開源軟件運動中扮演了重要角色。

但現在我們應該看到，開源軟件社區在面對數字主權問題時也表現出了一些侷限性，例如他們有過度盲目依賴技術實現民主的傾向，對區塊鏈、Solid等技術抱了不切實際的過高期望，並且往往回避與政府的交互和協作。而且據我觀察，很多西方的開源人士對中國存在很大誤解，對中國的數字主權和數字“一帶一路”抱持懷疑態度。

我認為，我國的學者和政策研究者應當就數字主權問題主動形成理論敍事，主動與全球開源社區展開辯論，在辯論中識別誰是我們的朋友，並找到協作共建的方式。

參考資料：

印尼提出全球人工智能治理應考慮“全球南方”，https://www.medcom.id/cn/technology/read/2024/02/05/35565

聯合國臨時報告：為人類治理人工智能，https://www.un.org/zh/ai-advisory-body

中國《全球人工智能治理倡議》，http://vancouver.china-consulate.gov.cn/zt_0/zggcdd100nxszt/202311/t20231109_11176352.htm

中國為全球AI治理注入新動能，http://cn.chinadaily.com.cn/a/202404/12/WS6618c8a4a3109f7860dd925c.html

【海外智庫觀察238期】人工智能工具需適應“全球南方”對於可解釋性的需求，https://hub.baai.ac.cn/view/37482

中法關於人工智能和全球治理的聯合聲明，https://baike.baidu.com/item/%E4%B8%AD%E6%B3%95%E5%85%B3%E4%BA%8E%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E5%92%8C%E5%85%A8%E7%90%83%E6%B2%BB%E7%90%86%E7%9A%84%E8%81%94%E5%90%88%E5%A3%B0%E6%98%8E/64398174?fr=ge_ala

Flanagan, A.J., AlSaeed, N. and Warren, S. (2020) A Roadmap for Cross-Border Data Flows: Future-Proofing Readiness and Cooperation in the New Data Economy, World Economic Forum. Available at: https://www3.weforum.org/docs/WEF_A_Roadmap_for_Cross_Border_Data_Flows_2020.pdf (Accessed: 02 March 2024).

本文系觀察者網獨家稿件，文章內容純屬作者個人觀點，不代表平台觀點，未經授權，不得轉載，否則將追究法律責任。關注觀察者網微信guanchacn，每日閲讀趣味文章。