AI會威脅人類嗎？UNESCO助理總幹事：關鍵在於我們如何建立治理框架_風聞

2025年6月16日，聯合國教科文組織助理總幹事加布裏埃拉·拉莫斯（Gabriela Ramos）到訪全球化智庫（CCG）。在開場環節，CCG理事長、國務院原參事王輝耀博士首先介紹了拉莫斯女士在多邊機構中積累的豐富經驗。隨後，拉莫斯以“人工智能發展的倫理基石與全球治理”為題，發表了精彩演講，深入探討AI時代面臨的倫理挑戰與全球合作路徑。以下為開場環節全文內容：

從OECD到UNESCO：拉莫斯女士的國際多邊合作與治理之路

CCG理事長、國務院原參事王輝耀**：**加布裏埃拉·拉莫斯女士，尊敬的各位來賓、女士們、先生們，我非常榮幸歡迎聯合國教科文組織助理總幹事加布裏埃拉·拉莫斯女士訪問CCG和中國。她將發表精彩演講並參與討論，我們也將與她進行對話。能夠在這個特別的活動中歡迎她到來，我深感榮幸。

“CCG全球名家對話”系列已開展五年，我們曾與數百位世界領導人、知名專家、政治人物及智庫負責人進行交流。今天我們非常高興又迎來一位重要嘉賓加入這一系列。

我首先想邀請加布裏埃拉·拉莫斯女士發言。拉莫斯女士是一位極具聲望的墨西哥經濟學家與外交官，現任聯合國教科文組織（UNESCO）社會與人文科學助理總幹事。眾所周知，教科文組織是聯合國下屬的重要機構，具有廣泛的國際影響力。作為助理總幹事，她主導推進包容與和平社會建設的多項倡議，重點涵蓋社會融合、性別平等、青年發展、反種族主義，以及新興技術倫理，尤其是在人工智能與神經技術等前沿領域，展現了卓越的領導力。

拉莫斯女士擁有十分出色的教育背景。她獲得了美國一所大學的國際關係學士學位，並於哈佛大學肯尼迪政府學院取得公共政策碩士學位。她的職業履歷同樣令人矚目。早年，她曾為墨西哥外交部的部長提供政策諮詢，隨後共同創辦了一家諮詢機構，推動海外墨西哥公民的投票權。

我開始認識拉莫斯女士，是在她任職於總部設在巴黎的經濟合作與發展組織（OECD）期間。她曾擔任OECD墨西哥中心主任，積極推動包括“全民健康保險”項目在內的重要改革，併為墨西哥的反壟斷立法作出貢獻。更為重要的是，在OECD巴黎總部，她升任為秘書長古里亞的內閣主任，併成為該組織首位G20事務協調人，常代表OECD出席二十國集團峯會，牽頭多個重要倡議，包括“包容性增長商業聯盟”（B4IG）平台，主導戰略改革，將OECD預算擴大了68%，新增8個成員國，成績斐然。我還記得幾年前，OECD首次舉辦國際移民部長會議時，我曾陪同中國國家移民管理局代表團出席，受到包括拉莫斯女士在內的OECD高層的熱情接待。

當然，拉莫斯女士的成就遠不止於此。在OECD取得卓越成就之後，她於2020年出任UNESCO社會與人文科學助理總幹事，這同樣是一個極為重要的國際機構。自上任以來，拉莫斯女士積極推動一系列變革性舉措，致力於強化教科文組織在科學、政策與倫理交匯處的戰略角色，在其領導下取得了諸多重要成果。

其中最具代表性的成就之一，是她主導起草並推動《人工智能倫理建議書》的通過。該建議書於2021年11月獲得教科文組織193個會員國一致通過，意義重大。在當前國際社會日益關注人工智能發展的背景下，該建議書的出台具有深遠影響。作為聯合國體系內的全球組織，教科文組織首次就人工智能倫理提出全球性的規範與指導方針，為人工智能的開發與應用提供道德指引，可謂開創先河，成就卓著。

截至2024年中，已有60多個國家將該建議書所倡導的倫理原則納入本國的制度與法律框架中，這一進展得益於在拉莫斯女士指導下開發的“人工智能倫理就緒度評估方法”（RAM）。智利、摩洛哥等國家已據此制定本國的人工智能政策與發展戰略，為全球其他國家樹立了良好示範。

此外，她還推動設立了“女性推動人工智能倫理”（Women4Ethical AI）倡議，匯聚全球領先的人工智能專家力量，推動性別平等在人工智能領域的實現。

2025年，作為UNESCO社會與人文科學部門重點活動之一，“全球人工智能倫理論壇”將舉辦，旨在推動行為變革並應對相關議題。同時，UNESCO在氣候行動方面也有所作為。2024年還舉辦了以“哲學：彌合社會鴻溝”為主題的“世界哲學日”，強調哲學在修復社會結構、促進包容性社會發展中的關鍵作用。

拉莫斯女士的成就可謂不勝枚舉。她也是一位卓有建樹的文明研究專家，始終強調文明對話在構建可持續與包容性社會中的基礎性作用。她主張通過對話來增進理解、加強合作、建立互信，尤其是在面對氣候變化、全球疫情、日益加劇的社會與經濟不平等等全球性挑戰時，這種交流尤為重要。

因此，我們非常高興能在此次活動中邀請拉莫斯女士在CCG發表演講並與我們展開對話。她呼籲擴大優質教育的可及性，對科學與技術進行倫理監管，並在全球治理平台上發揮更大影響力，以提升全人類的生活質量。

我與拉莫斯女士相識多年。記得我們曾就文明對話開展深入交流，也都曾是巴黎和平論壇指導委員會的成員。我也非常高興得知您正在參選UNESCO總幹事，並且是最具實力的候選人之一。我們衷心希望您此次訪華卓有成效，也預祝您在競選過程中取得圓滿成功。

接下來，讓我們以熱烈的掌聲歡迎加布裏埃拉·拉莫斯女士發表主旨演講，隨後我們將與她進行對話。

**主題演講：**人工智能發展的倫理基石與全球治理

**聯合國教科文組織助理總幹事加布裏埃拉·拉莫斯：**非常感謝您，輝耀。非常高興與您重逢並參與這場深入的對話。我此行由墨西哥駐華使館的同事陪同，還有我多年的好友曾毅教授一同出席。也非常感謝您剛才的熱情致辭與精彩介紹。能夠來到CCG這一重要平台，我感到由衷高興。回顧這些年來CCG接待過的眾多傑出嘉賓，這裏無疑是當今時代不可或缺的交流與思想匯聚之地。

我此次前來，是作為墨西哥推薦的UNESCO總幹事候選人。但正如輝耀所言，我在多邊體系中已有多年工作經驗，無論是在OECD，還是現在的UNESCO，我始終致力於推動國際機構切實發揮作用，為我們所面臨的各類全球性挑戰提供可行的解決方案。我認為，其中一個關鍵課題就是：我們如何確保當前日新月異的技術變革，能夠服務於建設一個更加包容、更加可持續的世界。

我願從這一話題切入。當前，國際機構正面臨前所未有的壓力，多邊主義的價值和作用正在被質疑。一些主要國家更傾向於採取雙邊甚至單邊主義的方式行事，而我們深知，世界各國之間的聯繫早已緊密交織。我們所面臨的不平等、氣候變化、人口老齡化、環境退化、移民問題以及技術發展等所有挑戰，皆為全球性問題，超越國界。因此，當今世界比以往任何時候都更加需要強化多邊主義，而不是削弱它。

但我們所倡導的多邊主義必須是有效的，這一點同樣至關重要。我最近在法國頗具影響力的刊物《大洲》雜誌（Le Grand Continent）上撰文，探討如何避免將所有國際機構一概而論、打包否定、最終被“丟入廢紙簍”。實際上，不同機構有着不同的影響力、不同的成果與成效，它們的表現也各有差異。

確實，聯合國體系中的許多機構都存在改革的必要。我們也一直在積極推進相關工作。聯合國體系需要更具靈活性、更高效、更具影響力。但與此同時，我們也應當看到多邊合作中那些成功的案例與經驗，這些值得我們總結、推廣並傳遞出清晰的信號：並非一切都在失效，仍有許多機制在發揮積極作用。

正如輝耀剛才所提到的，UNESCO便是一個重要的例證。人們普遍熟知UNESCO在文化遺產保護方面的工作，尤其是世界遺產名錄，也瞭解其在教育領域的貢獻，但較少了解其在科學領域的職責。事實上，UNESCO成立於1948年，是聯合國體系中最早設立的機構之一，其宗旨正是通過教育、文化與科學促進國際合作。我們肩負着推動全球對科學投資的責任，致力於保障科學家的研究環境與權利，因為在某些地區，科研環境仍面臨諸多挑戰，同時努力確保科研活動得到支持、資助與開放開展，推動知識生產脱離外部干擾，專注於推動人類對挑戰的深入理解與回應。

此外，UNESCO還有一項核心使命，即確立科學發展中的倫理規範，為科學研究提供倫理框架。這一點至關重要。我們不會忘記，二戰期間曾出現過許多嚴重違反倫理的科研行為。正是基於這樣的歷史教訓，UNESCO承擔起這項倫理使命，以確保科學發展始終植根於人類尊嚴與責任的價值基礎之上。

當人類基因組研究突飛猛進，進展迅速，以至於人類具備了克隆自身乃至克隆綿羊（如“多利”）的技術能力時，正是UNESCO率先發出強有力的聲音，對這類技術進行倫理規範與引導。我認為，當時我們提出的核心問題極具深意，為日後的科技倫理討論奠定了基礎：從技術上講，我們確實可以克隆、可以複製、可以創造。但從道德和倫理的角度，我們是否應當這麼做？問題的關鍵不在於“我們能不能”，而在於“我們是否應該”。

這種對技術與倫理的辯證理解也貫穿於我們後續關於人工智能的工作之中。人工智能的崛起，源於大數據的廣泛獲取、計算能力的躍升、雲計算的發展，以及中美等國家在該領域的大量投資。這些因素推動計算機具備了生成複雜智能產出的能力，在某些情形下甚至超出人類本身的認知水平。

但問題再次出現：我們確實擁有了強大的機器學習能力，擁有了生成式人工智能、具身智能AI等新型技術，眼見這些技術能力以指數級速度增長，我們常常對其潛力驚歎不已。然而，問題的關鍵並不在於技術本身，而在於我們如何運用這些技術去構建一個更加包容、公正的社會。

如果我們對當前技術發展的階段做一個速寫，可以看到，自2022年11月生成式人工智能橫空出世以來，確實帶來了令人矚目的突破。它的震撼之處在於這是一種能夠“自我學習”的技術，我們現在已經漸漸對此習以為常。這一特徵本身就引發了深刻的倫理與治理命題。

如果你在世界某個角落使用這些人工智能系統，通過與你的互動不斷“教導”它們一些信息或議題，那麼這種知識和學習將迅速擴散至全世界，這是令人驚歎的現象。而當下發展的“推理型AI”或“具身智能AI”更是令人震撼，因為它們具備取代人類的潛力。它們可以取代我，也可以取代你，甚至可以取代CCG的理事長。這是技術能力的體現。但問題在於，我們該如何構建相應的治理框架，確保我們關注的不是技術本身多麼先進，而是作為政府、作為制度、作為人類，我們如何對這些技術進行有序、合理的引導與規範。

我非常高興今天曾毅教授也在場。您是UNESCO《人工智能倫理建議書》制定工作組的成員之一。這份全球性倫理標準的制定過程本身就極具價值與意義，令人深受啓發。它的特別之處在於，這一過程不僅由經濟學家主導。在OECD的時候，通常是工作人員起草初稿，然後提交給成員國審議。而在UNESCO，我們採取了完全不同的做法。

我們邀請了來自不同學科領域的24位專家組成工作組，進行跨領域的集體研討。這本身就是一件令人振奮的事情。我們當然有技術極客、工程師、經濟學家和金融專家的參與，但我們也邀請了哲學家、心理學家、人類學家。他們共同從多維角度構建出一個“完整的人類經驗圖譜”。

**最終，我們提出的核心問題不再是“技術能做什麼”，而是“技術能為我們做什麼”****，**為我們解決什麼問題、滿足哪些需求、實現哪些社會目標。因此，這份建議書堪稱傑作，它引導我們從技術本位的思維中跳脱出來，轉向反思人類自身：我們希望構建一個怎樣的世界？一個尊重並促進人權與人類尊嚴的世界，一個實現公平、可持續成果的世界，一個推動性別平等的世界。

這份建議書中所確立的價值觀，源自具有全球代表性的專家羣體的共識，並最終轉化為一系列倫理原則：透明性、問責制、法治等——這些都是當代先進社會賴以組織自身生活秩序的基本規範。

而令人欣喜的是，作為一位長期從事政策研究與制定工作的專家，當我剛加入這一工作時，我提出：“這一切都非常好，但我們的政策章節在哪裏？”我們需要將這些倫理原則轉化為具體政策，為各國政府的決策提供可操作的指引。因此，我們進一步拓展了人工智能倫理的應用維度，深入探討了其在教育、文化、勞動市場、經濟、環境、性別平等、傳播、教育等多個領域的影響與應對。正因如此，這份建議書最終成為一套切實可行的國際標準，使人們能夠認真思考：“我們所倡導的這些原則，具體意味着什麼？”

接下來，我們更進一步，因為我們看到目前全球在人工智能發展上的巨大不平衡：當前80%的人工智能成果，包括大型基礎模型、前沿技術以及下一代系統，幾乎都集中在中美兩國。不僅僅是人工智能，還包括神經技術、合成生物學等多種與人工智能高度融合的新興技術，這些發展也主要由少數幾個國家主導。

與此同時，世界上大多數國家更多是這些技術的使用者，而非開發者。更令人擔憂的是，全球仍有約30%的人口無法穩定接入互聯網，更有大量公眾尚不具備使用這些先進技術的能力，甚至容易受到技術誤用的負面影響，比如虛假信息的傳播、社交網絡對青少年羣體的深遠影響等等。

**因此，我們決定開發一套“評估工具”，不再聚焦於技術本身，而是幫助各國判斷自身是否具備運用這些技術的能力，更重要的是，是否具備治理這些技術的能力。**儘管人工智能是一個全球性議題，但最終真正制定規則、應對數據隱私被侵犯、或平台行為失當等問題的，將是各國自身。必須有機制、有責任主體，來發出警示並推動改進。

正因如此，這一倡議變得尤為引人注目。目前已有包括荷蘭、印度、墨西哥、巴西這樣的國家參與其中，中國也剛剛完成了“人工智能倫理就緒度評估”，同時也涵蓋了如莫桑比克、馬拉維、柬埔寨等發展中國家。令人欣慰的是，每一個國家都結合自身國情，邀請本國專家、產業界、學術界和民間社會代表，深入探討：這些技術對本國意味着什麼？他們對技術的願景是什麼？進而在此基礎上制定符合本國利益與價值觀的治理規則，推動人工智能健康發展。

**我相信大家都聽説過一個“偽命題”，即所謂“監管扼殺創新”或“只有在無約束的環境中才能實現技術突破”。我認為這種觀點是完全錯誤的。**我們正在努力將有關人工智能的國際討論，從這一誤導性的二元對立引導至一個更加理性、有序的方向，即：通過豐富的政策工具來引導和塑造技術的正向發展。

讓我舉幾個例子來進一步説明。當前我們正處於一個科技突破與創新日新月異的時代，許多科學研究成果迅速轉化為市場應用，並被企業與社會廣泛使用。這也引發一個值得深思的問題：各國在科研與技術創新上的投入究竟有多少？拋開是否處在人工智能前沿不談，更本質的問題是：各國是否真正重視並持續投資於研發？

數據顯示，中國、韓國、美國等國家的研發投入已達GDP的4%至6%；而與此同時，一些地區的國家研發投入卻不到GDP的0.3%、甚至0.2%、0.1%。所以，問題並不在於“是否有大科技公司希望無節制地推銷產品”，而在於我們如何構建自身的能力基礎，以更好地應對和利用技術變革所帶來的機遇與挑戰。

關於技能建設——我們應當如何培養相關人才？讓我一直印象深刻的是，當美國前總統拜登發佈美國政府關於人工智能的行政命令時，其中一個核心要素便是人才的吸引、培養與留存。美國作為當前與中國並駕齊驅的技術引領國，尚且將“人才”列為首要戰略重點，我想這對所有國家而言都是一個明確的信號：必須加大對人才的投資。

另一個令我尤為關注的問題是，政府如何具備將技術用於公共利益的能力。在與各國政府交流時我發現，他們並不期望自己成為生成式人工智能的技術專家，不需要深究開源或閉源、大模型架構或平台演進的細節。他們真正關心的是，如何藉助這些技術為本國的衞生、教育等公共服務體系賦能和改革。這正是轉變治理模式的關鍵所在。

**這也正是UNESCO組織這項工作的深遠意義之一：賦予各國政府以“主動治理”的能力意識，使其意識到自己可以將技術轉化為切實有益的工具。**而這正需要系統性投資於政府的能力建設，包括理解技術本質、制定合適的監管政策與法律框架。

我最近還注意到一個值得關注的例子：三年前，美國聯邦參議員彼得斯推動立法，要求參與公共採購的政府官員必須具備人工智能相關知識。這項倡議雖然看似微小，卻意義重大。因為，當政府進入市場採購人工智能平台或相關係統時，必須瞭解這些技術的風險與潛力，才能有效規避問題並保護公共利益。

投資於自身運用技術的能力至關重要。當然，我並不是要淡化對技術本身理解的重要性。我們確實需要了解這些技術，因為隨着每一代技術的突破，許多原本被視為“已找到答案”的問題，也會因此被重新定義。

還記得十年前，我們剛開始研究人工智能早期模型時，很多研究預測稱未來將有50%的崗位會被取代。隨後，討論的焦點逐漸從“崗位消失”轉向了“任務替代”——人工智能所取代的，不是整個職業類別，而是職業中的某些具體任務。

再後來我們又認為，那些可以被編碼的任務最容易被替代，也就是説，人工智能技術對中等技能水平崗位的衝擊最大。當時人們普遍擔心：打字員、接線員、預訂人員等從事重複性工作的羣體將首當其衝被淘汰。針對這些擔憂，我們制定了相關政策，致力於保護這些人羣，推動他們技能再培訓、崗位轉換或組織重組，努力避免技術發展帶來的傷害。

**然而，生成式人工智能的出現徹底改變了這一預期。它的能力遠遠超出了執行重複性任務的範疇，甚至開始取代部分白領職業。**它已經能夠編寫代碼，有可能替代律師、部分工程師等高技能崗位。這再次提醒我們，技術發展遠非線性，政策應對必須與時俱進。

正如我之前所説，人工智能的能力正不斷提升，而隨之而來的，是層出不窮的新挑戰。例如，過去我們對“算法歧視”問題的關注，即由算法做出的決策可能導致歧視性後果，幾乎一度被“安全風險”問題所取代。還記得在英國舉行的人工智能安全峯會，會議重點討論的正是這一問題：如果開放源代碼、任何人都可以編寫程序，那麼技術也極易被濫用，可能帶來嚴重的安全隱患。因此，聯合國秘書長設立了高級別顧問委員會，推動《全球數字契約》的制定工作。

歸根結底，這是一個不斷正視並應對問題的過程。我深感欣慰的是，正因UNESCO在這一領域的努力，越來越多國家開始理解這些技術的運行機制，更重要的是，意識到自身應當採取哪些行動。

我擔任助理總幹事期間最令我感動的時刻之一，是與柬埔寨郵電部長謝萬德先生的交流。我此前並未與他見過面，畢竟我們在全球與多達70個國家開展合作工作，很多工作都是由我們的駐地團隊完成，並不意味着我會親自走訪每一國。但那次他在法國出席人工智能行動峯會時特地前來見我，並説：“我要感謝你。正是因為和UNESCO的這項合作，我才真正明白自己該做什麼。”這番話讓我深受鼓舞。如果一位部長能夠明確表示，“你們的工作讓我明確了方向”，那意味着我們真正產生了影響。我認為，這正是我們所應當追求的目標。

因此，我相信，像這樣的經驗值得在全球範圍內廣泛推廣。每當全球社會齊聚一堂，在圓桌旁圍坐時，我們都應致力於以正確的方式界定問題、凝聚共識。這正是世界在《巴黎氣候協定》中所做的努力——通過國家自主決定貢獻方案（NDC）建立全球氣候治理框架；也是我們在OECD改革國際税收體系、防止逃税與税基侵蝕時所採取的方式；同樣，我們在制定性別平等相關規則與政策時也秉持了這樣的理念。

**唯一的問題在於：達成協議固然令人鼓舞，但真正的價值在於落實執行。**這是我多年工作中最深刻的體會之一。因此，我就講到這裏，接下來我們可以繼續探討如何確保一個更加可持續的人工智能未來，同時也要思考，如何保障那些肩負全球責任的國際組織能夠持續發揮積極作用，推動善治。非常感謝大家。

（本文根據CCG全球對話系列之“王輝耀對話聯合國教科文組織助理總幹事加布裏埃拉•拉莫斯”的發言錄音翻譯整理，未經本人審閲，轉載請註明出處）