推動人工智能治理與國際合作 促進建立人工智能全球治理框架

12月19日，首屆“清華大學人工智能合作與治理國際論壇”在清華大學圓滿落下帷幕，本次論壇旨在打造人工智能治理與國際合作的全球對話平台，彙集世界各國相關領域的思想領袖與實踐者，包括來自各國政府和國際組織的高級官員、學界專家以及科技行業的領軍人物共同探討人工智能技術帶來的全球機遇與挑戰，分享人工智能國際合作與治理方面的經驗與見解，凝聚智慧，創造共識，並提出未來的人工智能治理與合作研究議題。該論壇由清華大學人工智能國際治理研究院（I-AIIG）主辦，聯合國開發計劃署（UNDP）作為論壇的國際支持機構。

在12月18日舉行的開幕式上，聯合國副秘書長、聯合國秘書長特別顧問法布里齊奧·霍奇爾德（Fabrizio Hochschild）在視頻致辭中表示，“在所有新興技術中，人工智能最具潛力，但水能載舟，亦能覆舟。這也是為什麼在這一領域的國際合作至關重要。” 清華大學校長邱勇在開幕致辭中表示，“大學要在人工智能合作與治理方面開創新局面、展現新作為：要引領人工智能的發展方向，要不斷創新人工智能的理論與技術，要積極推進人工智能全球合作。”聯合國開發計劃署駐華代表白雅婷説，“在此次疫情的應對中，國際合作和多邊主義至關重要，必須從全球層面來探討人工智能相關的話題。”第十二屆全國政協副主席王欽敏、國際電信聯盟（ITU）秘書長趙厚麟以及外交部、科技部和工信部代表應邀出席開幕式並致辭。

此次論壇涵蓋了多個議題：如何確保人工智能的發展有助於建立一個可持續且包容的未來，同時避免加劇現有挑戰和製造新的數字鴻溝？人工智能的發展如何在實現創新的同時兼顧風險管理？疫情期間人工智能如何得到廣泛應用？如何加大各國共識，從而促進國際治理框架的建立？這些議題在論壇期間引發熱議。 

在主論壇上，圖靈獎得主、清華大學交叉信息研究院院長姚期智在主論壇發言中以多方可信安全計算技術（MPC）為例，指出加密技術在數據治理上能夠發揮更加重要的作用，並建議將一系列可信算法和相關的真實機構結合起來，通過合作建立可信數據治理的基礎。

中國科學院院士、清華大學人工智能研究院名譽院長張鈸從當前人工智能的脆弱性談起，介紹了清華大學人工智能研究院在第三代人工智能方面的最新工作，指出人工智能發展與治理應當相輔相成，共同前進，並呼籲各國團結起來共同發展安全、可靠、可信、可拓展的第三代人工智能技術。

清華大學人工智能國際治理研究院名譽院長、前外交部副部長傅瑩在主論壇講話中呼籲在人工智能領域建設包容性強的國際治理委員會，共同去研究、探討、吸吶各方面好的建議和意見，形成共同的國際規範。她説，“中國國內在對人工智能技術應用的治理和立法方面已經在採取實際行動。當然，從更大的角度看，這是人類共同的難題，不是一個國家、兩個國家能解決的。中美兩國乃至國際機構和各國圍繞這個話題展開合作至關重要，我們希望也相信這不是一場零和遊戲，人工智能最終應使得全人類受益。”

清華大學人工智能國際治理研究院院長薛瀾教授認為，目前人工智能發展面臨的最大挑戰是——人工智能技術發展太快，而治理準則作為一種社會體系，其發展是緩慢的、漸進的，因此我們需要“敏捷治理”。他指出，“人工智能可以學習已有的國際機制，未來不斷加強人工智能領域的國際合作，我們可以在合作過程中找到各方的共同點，並不斷探討、溝通，一同尋找人工智能共同的準則和規則，引導人工智能的健康發展，為人類造福。”

清華大學人工智能產業研究院院長張亞勤在發言中強調了人工智能治理的三大維度，一是通過技術創新，實現負責任的人工智能技術，包括數據分析模型，通過預測來防範疫情，以及提升個人健康水平的應用開發等；二是加強國際合作，在國際層面上進行充分的對話與交流，以應對最為緊迫的問題；三是推動人工智能的大規模使用，以及同時確保相關技術的安全性問題。

首屆清華大學人工智能合作與治理國際論壇共設有五場分論壇，涉及人工智能在抗擊新冠疫情中的作用、人工智能治理促進可持續發展、人工智能與國際安全、人工智能治理國際合作、數據與人工智能安全等主題。

在清華大學人工智能國際治理研究院主持的“人工智能在抗擊新冠疫情中的作用：經驗與教訓”分論壇上，來自國內外學界、企業界、知名智庫和政府部門的專家學者和聽眾近百人通過線上線下方式交流研討，共同分享人工智能抗疫國際經驗。清華大學人工智能國際治理研究院國際學術交流項目主任、清華大學交叉信息研究院助理教授於洋介紹了研究院所做的一項最新研究，指出人工智能技術之所以能夠全面快速滲透性的參與中國的疫情治理，主要是由於企業主動參與治理，算法思維的政府，以及在政府和企業中都大量存在的樞紐性部門三個關鍵因素。世界衞生組織健康領域AI倫理專家組組長、蘇黎世聯邦理工學院大數據與人工智能倫理學教授埃菲·瓦耶娜認為，由於各個國家的保障體系和數字化程度不一，數字轉型和治理是非常緊迫的任務，有必要加強合作和協調，但同時也要注意倫理方面的問題。美團副總裁、首席科學家夏華夏指出：人工智能帶來的倫理問題可以用技術的提升去解決，但同時也需要通過法律來規範技術的應用。商湯科技亞太業務事業羣總裁、戰略規劃副總裁史軍説：“AI倫理風險的邊界和核心要求是發展負責任的人工智能，在治理和合規上企業要先想一步，先做一步。”

聯合國開發計劃署主持的兩場分論壇分別探討了人工智能治理對實現可持續發展目標的影響以及人工智能治理的國際合作。來自國際組織、政府、高校、研究機構、企業、媒體等領域60多家機構的70位嘉賓應邀出席會議。

在“人工智能治理促進可持續發展”分論壇上，與會專家們探討了在可持續發展目標的框架下，在醫療、教育、災害預警、應對氣候變化以及消除貧困和不平等方面人工智能所具備的巨大潛力和帶來的風險與挑戰。聯合國兒童基金會全球創新主任托馬斯·戴文（Thomas Davin）説：“如今，全球半數人口未能使用互聯網，然而人工智能和機器基於數據而學習。因此，由數據加劇的不平等值得擔憂，人工智能的使用正在向那些發達的國家傾斜。”中國科學院自動化研究所中英人工智能倫理與治理中心主任曾毅表示“據目前數據分析，已有八百多萬的科學研究論文跟人工智能相關，但其中只有0.1%同時與可持續發展目標相關。因此，作為人工智能領域的專家，我們的責任是要更多地將人工智能與可持續發展目標相結合。”麻省理工學院物理學教授、未來生命學院聯合創始人馬克斯·泰格馬克（Max Tegmark）表示：“在人工智能的發展領域，我們共同進退，要想取得成功，就必須加強全球合作。這項技術的潛力是無限的，只要我們避免衝突的產生，攜手合作，就能使所有國家實現更快的發展，實現共同富裕。”

“人工智能治理與國際合作”分論壇的探討主要圍繞未來的全球治理機制的協調與合作過程中面臨的挑戰，以及各個國家如何在能力建設和信息交流方面增強合作。洛克菲勒基金會高級副總裁齊亞·汗（Zia Khan）表示：“有人擔心在人工智能的發展初期，治理會阻礙其創新發展。但是，如果我們不為人工智能的發展制定其合適的治理框架，其發展會受到現有政策和法規的約束，從而阻礙其發展和使用，也無法實現人工智能的社會價值。”新加坡信息通信媒體發展管理局（IMDA）首席執行官助理楊子健表示：“毫無疑問，促進更多人工智能治理方面的國際合作是當務之急，這樣的合作將有利於產業發展和創新，並有助於相關從業人員間的交流切磋。”

在“人工智能與國際安全”分論壇上，清華大學戰略與安全研究中心發佈了與美國布魯金斯學會聯合研究的“人工智能與國際安全”項目初步成果。布魯金斯學會會長艾翰·艾倫（John Allen）表示，現在正是規範人工智能技術發展和應用的關鍵期，應抓住當下機遇，圍繞降低人工智能可能構成的國家安全風險的實際步驟達成共識。清華大學戰略與安全研究中心主任、人工智能國際治理研究院榮譽院長傅瑩表示，中美關於人工智能安全治理的聯合研究項目是一個成功的案例，雙方都從中受益良多，研究結果也有很好的參考價值。希望人類能走在技術變革的前面，充分認識其風險，早些達成治理共識。中方團隊牽頭人、清華大學戰略與安全研究中心研究員李彬對雙方聯合項目的情況，以及中方專家關於人工智能風險和治理的思路作了詳細介紹。

在“數據與人工智能安全”分論壇上，學者與產業專家聚焦討論了數據與人工智能的近期與遠期風險與安全挑戰及對策。劍橋大學研究員丹尼特·加爾(Danit Gal)重點總結了人工智能的內部風險與外部防禦的近期挑戰，並對各國數據規制應當形成全球協作提出建議。荷蘭愛因霍芬理工大學文森特·穆勒(Vincent Muller)教授指出通用人工智能和超級智能的長遠風險具有極大不確定性。與會專家一致表示，全球應當深度協作應對數據與人工智能的近期與長遠風險。

此次論壇得到了清華大學人工智能研究院、清華大學智能產業研究院、清華大學戰略與安全研究中心、北京智源人工智能研究院、清華大學中國科技政策研究中心、清華大學科技發展與治理研究中心、美國布魯金斯學會、SPARK 聯合國開發計劃署可持續發展創新實驗室以及清華大學產業發展與環境治理研究中心等機構的合作與支持。