從建章立制到落地實施，十大AI治理事件背後的發展趨勢_風聞

從建章立制到落地實施，十大AI治理事件背後的發展趨勢

全球人工智能發展進入新階段催生了越來越多的應用場景，數據安全、隱私保護、技術監管等成為人們常議的熱度話題，世界範圍內引導AI向善的法律或規範也逐漸完善，為研究全球十大人工智能治理事件提供了更多權威參考標準。人民智庫與曠視AI治理研究院第二次成立聯合課題組，並邀請中國人工智能產業發展聯盟（AIIA）作為課題支持單位，組織相關領域權威專家學者和企業代表，以《新一代人工智能倫理規範》中提到的六條原則為遵循，從理論價值、實踐價值、新聞價值、研究價值等四個評價標準共同開展“2021年度全球十大人工智能治理事件”遴選、評議，力圖從喧譁的輿論聲音及理性的專家點評中透析出AI治理未來發展趨勢，研判AI在各領域、各場景應用的新空間、新作為，使其可控可靠可信服務於人類對科技改善生活、增進福祉的美好願景。

中國信息通信研究院副總工程師、中國人工智能產業發展聯盟副秘書長王愛華： 2021年是全球人工智能治理極具實質性突破的一年。縱觀全年的治理事件，全球人工智能治理呈現出三大發展特點。一是治理“趨實”。國際國內標誌性立法進程事件都反映出人工智能治理向更具實質性的監管落地。二是治理“趨嚴”。全球針對人工智能已經開始深化嚴格治理。三是治理“趨細”。

人工智能治理的工作重點細化於典型場景中，且特別聚焦於自動駕駛、智慧醫療等領域。未來，將抽象的人工智能倫理原則、法律規範轉化為具體實踐，落實到技術、產品和應用中去，是產業界亟待加快推進的工作。中國人工智能產業發展聯盟也將繼續聯合產業力量，探索可信人工智能的實踐路徑，推動人工智能產業健康有序地發展。

**清華大學公共管理學院教授、人工智能國際治理研究院副院長梁正：**縱觀2021年度全球十大人工智能治理事件可以看出：人工智能治理已經成為全球共識，且已從理念層面進入到建章立制、落地實施的階段。特別是在2021年中國發布了《數據安全法》《個人信息保護法》等重要的法律法規，在全球範圍內，歐盟、美國以及聯合國等組織也發佈了關於人工智能的相關倫理道德規範、一些重要的法律法規，這意味着人工智能的應用已進入到一個普及階段，社會各界人工智能應用方面的制度規範迫在眉睫。

除了自上而下的建章立制，自下而上的基於應用主體和用户選擇的參與，也成為人工智能治理的一個重要特點，體現出 “多方參與、協同治理”的理念。在新的一年，人工智能治理會進入從建章立制到落地實施的階段，這需要更多針對細分場景的細則和指引標準，進而推動相關法律法規的實施。

**華東政法大學人工智能與大數據指數研究院院長 高奇琦：**2021年的全球十大人工智能治理事件有三個特點：第一是無論在國家層面，還是在國際組織層面，都出現了較多的重要倫理和法律規則，AI治理受到社會廣泛關注。從評選出的2021年度全球十大人工智能治理事件來看，至少有5個事件與人工智能治理的倫理和法律相關。這既包括在國家層面的兩部重要立法，也包括像聯合國教科文組織發佈全球性人工智能倫理及治理規範。

第二是反映了人工智能仍然在加快應用。事件至少有兩項內容是關於加快人工智能應用的，包括這裏的自動駕駛汽車2021年在英國的合法化，以及腦機接口（人腦芯片）或明年使用等新聞。第三則是反映了社會大眾關於人工智能治理的漸趨自覺的趨勢。如在美國新提案，賦予社交媒體用户禁用算法的權利。同時中國人臉識別第一案，儘管案件賠償的金額並不多，但還是有很強的標誌意義，即社會大眾對於人臉識別其實有一些倫理和價值方面的判斷，這反映了社會大眾的認知提高。

**環球時報副總編輯 謝戎彬：**從這次的十大人工智能治理事件，可以看出有三大特點：一是國內高度重視人工智能治理領域的法律法規建設，這基本上與國際最先進的國家與地區同步。二是非常重視有益於民眾福祉的重大技術事件。技術沒有善惡之分，如果能借助算法、法律、法規、道德等多維度，讓他們更好地為人類謀福利，那將是一個非常重要的方向。三是本次評選也關照到新技術對於一些特殊羣體帶來的幫助，比如人腦芯片的應用或為癱瘓者帶來希望，人腦芯片腦機接口等技術不僅國外在加速落地，中國的多家科研院所與高科技企業也在關注。

**京東探索研究院院長、澳大利亞科學院院士陶大程：**2021年全球AI治理的一系列重要事件，均反映出當前社會、產業界對AI可控可靠、透明可釋、隱私保護等方面的急切訴求。從單個事件來看，例如對自動駕駛事故的顧慮、責任劃分的擔憂，反映出人工智能因為缺乏可解釋性，在更廣泛的應用上受到了限制。從綜合的角度，或者説長期發展的角度來看，人工智能基礎理論創新的缺失會對其後繼發展帶來極大隱患。業界對可信、安全、隱私保護等方面增加關注，是對一系列隱患的回應，也是對潛在風險的預先規避。

全球AI治理事件反映出，增強用户信任、發展可信人工智能是當前的一項共識，不僅為人工智能技術發展和轉化應用所面臨的一系列問題及時地提供相對可行的解決方案，也是人工智能倫理的一項核心而長期的工作。

**科大訊飛高級副總裁 江濤：**2021年是人工智能快速發展的一年，各種人工智能應用百花齊放，社會對人工智能進一步應用會不會存在技術濫用，會不會存在AI倫理問題，也有更多地思考和討論。我們相信未來人工智能的應用不會取代人類，而是在人和機器的協同中不斷讓人的生活更美好，讓整個社會的運行更高效，未來AI前景光明。

我們相信隨着技術的不斷發展，這個技術可以應用的場景會越來越多。我相信有價值的AI，不是為了讓這個社會更焦慮，讓年輕人更沉迷，而是要讓用户感受到更多的温暖，讓用户有獲得感。只有這樣的AI才是有價值的AI。未來AI客服、AI經理、AI店長、AI演示員等，越來越多的人工智能應用場景會出現，讓我們切切實實地體會到人工智能在整個運行中為我們提升社會運行的效率，讓人工智能建設美好世界的偉大理想會一步一步地變成現實。

曠視科技聯合創始人兼CEO 印奇**：**這是第三年評選全球十大人工智能治理事件，相比而言，2021年一個顯著趨勢是與人工智能治理、算法治理、數據治理相關的法律法規更加完善，對人工智能技術和應用的細分場景給出了更精細的標準和引導。這些舉措對整個AI行業的可持續發展來説是重大利好。此外，AI在增進人類福祉方面繼續向前、向深發展。

作為全球科技競爭的關鍵領域，AI不僅需要在技術創新和應用落地上下功夫，也需要在治理上使力氣。人工智能既是我們創造美好生活的重要手段，也是需要妥善治理的對象。AI治理的向上向善發展需要理性的關注、深度的研究、建設性的討論和堅持不懈的行動，也離不開所有AI從業者和社會各界的多元共治、共同努力。

2021年度全球十大人工智能治理事件與專家觀點

**事件一、**強化數據安全，相關法律法規陸續發佈

《中華人民共和國個人信息保護法》（以下簡稱《個人信息保護法》）2021年11月1日正式實施；《最高人民法院關於審理使用人臉識別技術處理個人信息相關民事案件適用法律若干問題的規定》2021年8月1日正式實施；《中華人民共和國數據安全法》（以下簡稱《數據安全法》）2021年9月1日正式施行；《網絡數據安全管理條例（徵求意見稿）》發佈。（來源：綜合自經濟參考報、科技日報、央視新聞客户端、中國新聞網等）

魏凱  中國信息通信研究院雲計算與大數據研究所副所長

2021年，備受關注的《數據安全法》與《個人信息保護法》出台，與《網絡安全法》共同形成了數據治理法律領域的“三駕馬車”，標誌着我國數據安全法律架構已初步搭建完成。在此基礎上，聚焦重點行業、新興技術的數據安全法律法規和司法解釋也在2021年密集出台，充分體現了我國在數據立法方面的前瞻性和創新性，為加快培育數據要素市場、保障數字經濟健康發展奠定了堅實的制度基礎。

劉亞單  數字廣東網絡建設有限公司產品研發部總經理

數據安全事關國家安全和經濟社會發展，提升數據安全治理能力是我們在新形勢下需要着力解決的突出問題。我國首部針對個人信息保護的專門性立法、我國第一部數據安全領域的專門法律等相繼發佈生效，共同構成了我國數據安全保護領域的基本法律框架，使數據安全保護在上位法層面得到完善，為數據安全釋放價值提供了合規指引。標誌着我國數據安全立法保護開啓了歷史新篇章，為明確數據產權與利用規則奠定了基礎，推動了我國公共數據共享、開放和利用走向“規範化”發展道路，也是全球個人信息法治發展的重大里程碑，對隱私計算等人工智能技術商業利用的合規性操作具有重大意義。

**事件二、**歐盟發佈針對人工智能技術的監管法規草案，呼籲禁止公共場所人臉識別

2021年4月21日，歐盟首次發佈針對人工智能技術的監管法規草案。草案中，AI的一系列應用範圍都受到了不同程度的限制。當地時間10月6日，歐盟通過禁止警方在公共場所使用面部識別技術的決議，並對其使用AI進行預測性警務活動實施嚴格限制措施。（來源：綜合自AI科技評論、51cto等）

程祥  北京郵電大學計算機學院副教授

在數據保護和人工智能技術的監管方面，歐盟一直前瞻性地走在立法實踐的最前端。2018年生效的《歐盟數據保護通用條例》在世界範圍內率先定義了個人數據所有權的規則，推動了數據隱私保護技術在業界的大規模應用，限制了企業為追逐經濟效益而對用户隱私的侵害。而歐盟2021年4月針對人工智能技術的監管法規草案更是立志於為符合倫理的人工智能技術的發展鋪平道路，並通過禁止“無差別地大規模監控”來進一步地保護個人隱私。這些法規的確立揭示了人工智能技術的應用與公民個人隱私之間的矛盾。因此，與數據挖掘和機器學習相關的隱私保護技術亟待發展，以支撐相關法規的落地實施。

楊丹輝  中國社會科學院工業經濟研究所資源與環境研究室主任、研究員

禁止公共場所人臉識別，不僅反映出歐盟對AI領域風險防控的高度重視，實則也是其對新一代信息相關新技術新模式新業態的一貫立場，這種相對保守的思路，一方面集中體現了歐盟注重技術治理的“根部”問題及其強大的制度建設能力；另一方面則是歐盟在AI技術創新水平的真實狀況。因此，歐盟利用自身優勢，做制度和法規的構建者，並以此爭奪治理的話語權。針對歐盟的這一規定，一些互聯網巨頭公開反對禁止人臉識別的“一刀切”做法，認為應積極探索更加靈活、富有彈性、平衡效用與安全的監管方式。

**事件三、**國家新一代人工智能治理專業委員會發布《新一代人工智能倫理規範》

2021年9月25日，國家新一代人工智能治理專業委員會發布了《新一代人工智能倫理規範》，提出增進人類福祉、促進公平公正、保護隱私安全、確保可控可信、強化責任擔當、提升倫理素養等6項基本倫理要求。旨在將倫理道德融入人工智能全生命週期，為從事人工智能相關活動的自然人、法人和其他相關機構等提供倫理指引。（來源：科技部）

何寶宏  中國信息通信研究院雲計算與大數據研究所所長

2021年，發佈《新一代人工智能倫理規範》，細化落實《新一代人工智能治理原則》，是我國深化人工智能治理工作的又一重大舉措。人工智能技術以數據、算法為驅動，發展速度迅猛，正在深刻改變人類的社會生產和生活模式。但人工智能技術的濫用也不斷衝擊社會倫理底線、侵犯個人權益。所以，既要大力發展人工智能，又要高度重視風險和挑戰，科學處理好發展和治理的關係，發展可信的人工智能。

王曉飛  天津大學智能與計算學部教授

本事件代表從國家到社會各個層面都意識到了人工智能倫理的重要性。在AI還未全面深入到各行各業之前，將能夠預想到的倫理問題進行梳理和規約，是非常及時且正確的一個做法，未來隨着AI算力和算法的逐漸變強，倫理規範也要與時俱進、逐年升級，從根本上奠定“AI服務人類，AI服務社會”的基調。

**事件四、**聯合國發佈全球性人工智能倫理及治理規範

世界衞生組織於2021年6月28日正式發佈“世界衞生組織衞生健康領域人工智能倫理與治理指南”。聯合國教科文組織2021年11月25日舉行新聞發佈會，介紹該組織正式通過的首份人工智能倫理問題全球性協議。（來源：綜合自聯合國教科文組織、科技日報等）

陳躍紅  南方科技大學人文社會科學學院院長、人文中心主任

人工智能正在被用於提升治療的速度和精準度以及疾病的篩查，協助臨牀護理，加強衞生研究與藥物研發，支持疾病監測，疫情應對和衞生系統管理等多種公共衞生干預措施。但是隨之帶來的法律和倫理治理挑戰也日益緊迫。世界衞生組織這一歷史性文本試圖協調共同的價值觀和原則，用以指導建設必需的法律框架來確保人工智能的健康發展。

郭繼承  中國政法大學思政研究所副教授

我們應該聚焦人工智能發展的兩個基本方面：一是人工智能的發展會怎樣影響人類文明；二是人類在法律和倫理層面如何規範人工智能的應用，使之真正造福人類。第一個問題涉及的是人工智能的發展和應用情況，聚焦工具能力；第二個問題涉及到如何規範人工智能的應用，聚焦的是如何正確駕馭工具為人類所用。一言以蔽之，工具能力和如何駕馭工具能力，這是我們面對人工智能發展需要正視的基本問題。

**事件五、**強化算法綜合治理，防範算法濫用風險，用户可選擇關閉算法推薦

2021年9月，九部委印發《關於加強互聯網信息服務算法綜合治理的指導意見》，要求防範算法濫用風險，維護網絡空間傳播秩序、市場秩序和社會秩序。2021年12月31日，國家互聯網信息辦公室等四部門聯合發佈《互聯網信息服務算法推薦管理規定》。（來源：綜合自國家互聯網信息辦公室、人民日報、新華社等）

郭兵  浙江理工大學法政學院特聘副教授、杭州長三角大數據研究院副院長

當前，算法推薦等技術已經被廣泛應用於電商平台、新聞平台、視聽平台、社交平台等諸多應用場景中。算法推薦等技術為網絡用户和網絡平台帶來便利和經濟利益的同時，也引發了一系列新的法律問題。如何平衡好算法推薦等技術的創新發展與安全風險，成為了算法治理的一大難題。無論是《關於加強互聯網信息服務算法綜合治理的指導意見》，還是《互聯網信息服務算法推薦管理規定》都是應對算法濫用風險等難題的有益制度探索。

張凌寒****北京科技大學法學院副教授、國家人工智能倫理與道德標準小組成員

2021年堪稱中國算法治理元年。2021年伊始算法進入監管視野，監管部門展開系列算法執法活動。世界第一部系統性、全面性規制算法的法律文件《算法推薦管理規定》出台實施。《指導意見》宣佈我國將在三年內建立起算法綜合治理體系。歐盟和美國在數據保護立法領域走在了中國之前，算法規制方面中國則當仁不讓地開世界先河。我國的算法治理體系以信息安全、市場競爭秩序和消費者權益保護為指導思想，《算法推薦管理規定》則確立了算法提供服務者的算法全生命流程監管責任，並構建了用户權益，尤其是未成年人、老年人和平台勞工等社會弱勢羣體的保護制度。2021年的算法綜合治理活動與相關立法，使得我國率先建立了世界上最為完備的囊括數據安全、個人信息保護和算法安全的互聯網治理體系。

**事件六、**自動駕駛汽車2021年或在英國合法化

英國《衞報》報道，英國將推行計劃，允許安裝自動車道保持系統（Alks）技術的新車型在沒有司機插手的情況下上路行駛。英國交通部長麥克萊恩（Rachel Maclean）表示，這是“英國安全使用自動駕駛車輛的一大進步，它使未來的出行更加綠色、便捷和可靠”。（來源：51cto）

寧陽  華北電力大學教授

“自動駕駛汽車或在英國合法化”入選2021年全球十大人工智能治理事件，引起各方高度關注。這一方面標誌着自動駕駛技術越來越走向成熟，它可能使未來出行變得更加綠色、便捷和可靠，並將促使道路交通和商業保險等相關法規的重新修訂，另一方面也會增加人們對於自動駕駛安全性的擔憂和喪失駕駛體驗感的顧慮。但不管對其作出何種評價，這無疑是一項嶄新的技術革命，自動駕駛市場前景廣闊，必將成為科技巨頭角逐的下一個行業藍海。

王飛躍  中國科學院自動化研究所複雜系統管理與控制國家重點實驗室主任、研究員

對於開放場景下的無人駕駛，歐美在法律制定、標準及政策等方面比中國更加靈活，而中國則因為對監管、人權和安全更加看重，目前仍處於“道路測試”或者“試運營”階段。但在提升行業智能化水平等需求的推動下，中國在封閉或半封閉場景（如礦區、港口等）正在逐步落地無人駕駛，並已從技術上實現無安全員。通過平行駕駛，讓人工系統對真實世界車輛和道路建模，構建軟件定義的車輛及車路系統，同時建立控制計算中心，對真實數據及虛擬數據進行聯合優化，以虛實結合的方式保證無人駕駛的安全性，加速無人駕駛的商業化和規模化落地。

**事件七、**美國新提案將賦予社交媒體用户禁用算法的權利

國外媒體報道，美國眾議院一個由兩黨議員組成的小組提出一項法案，要求Meta旗下Facebook和Google等互聯網平台允許用户查看非算法選擇的內容。共和黨眾議員巴克在一份聲明中表示：“消費者應該有權選擇如何使用互聯網平台，而不必受到由特定用户數據驅動的秘密算法操縱。”（來源：TechWeb）

張軍平  復旦大學計算機科學技術學院教授、博導

社交媒體用户在使用互聯網平台獲得便利的同時，也有可能在不知情的情況下泄露自己的隱私。因此，明確賦予社交媒體用户禁用算法的權利，本質上就是在保護公民的隱私。

**事件八、**AI增進人類福祉新方向：AI干預自殺、AI手語主播、AI氣候預測

中科院心理所研究員朱廷劭通過AI算法開發了自殺意念識別模型，並組織志願者團隊給予干預和救助。央視新聞聯合百度智能雲打造的總枱首個AI手語主播正式亮相。此外，科大訊飛、愛奇藝等企業均先後推出善用手語表達的仿真AI主播。世界地球日當天，達摩院與南京信息工程大學、國家氣候中心等聯合舉辦業界首個AI氣候預測大賽，AI首次預測未來兩年氣候。（來源：綜合自鳳凰網、科技日報等）

潘天羣  南京大學哲學系教授、博導，南京大學科學技術與社會研究所所長

當代社會有抑鬱等心理障礙的人越來越多，因心理問題而自殺的人也越來越多。在網上“樹洞”進行傾訴是心理障礙者緩解壓力的一個重要渠道。該軟件的應用及推廣，在其他手段的配合下，能夠阻止更多意圖自殺的人。當然該軟件需要彌補其先天的倫理缺陷：網上傾訴是個人隱私，基於“樹洞”的自殺干預本身意味着“樹洞”本身不是“黑洞”。該軟件公益性強、社會價值巨大，也意味着基於網上的資源可以開發出各種具有公益價值的軟件。

江濤  科大訊飛高級副總裁

AI主播技術本質是以情感貫穿從文本語義到語氣、到面部表情等的後台邏輯，在虛擬世界中打造一個真實的助手或合作伙伴。該技術在受到火熱追捧的同時，也面臨嚴峻的技術挑戰，如更多視頻融合元素、虛擬人情感、豐富虛擬人技能、場景化主題、情感化決策融入虛擬人設計中等。期待在不久的將來，拓展出更多領域的虛擬人落地應用，實現虛擬人的“面對面”互動交流、業務諮詢、智能問答、服務導覽等，讓人們切實體會到“人工智能建設的美好世界”。

**事件九、**人腦芯片或2022年使用，癱瘓者迎來希望

當地時間2021年12月7日，在《華爾街日報》CEO理事會峯會上，馬斯克表示其腦機接口技術公司Neuralink研發的微芯片裝置有望2022年植入人類大腦，為癱瘓者帶來希望。（來源：武漢晨報）

唐磊  中國社會科學院政治學所研究員，中國社會科學院大學政府管理學院副院長

腦機對接技術是科幻小説、電影中被反覆設想的場景，是突破人的極限的關鍵一步。目前，腦機接口技術正處於第三個階段——技術爆發階段。醫療健康領域是腦機接口最初、最直接和最主要的應用領域，也是目前最接近商業化的應用領域。這將為人類帶來巨大福祉。但是，腦機接口在軍事領域如果實現“替代”和“增強”方向，就可能給人類帶來巨大災難。技術進步不以人的意志為轉移，潘多拉盒子一旦打開，人類自身能否完美控制技術服務人類的方向，還是一個未知數。

李金龍  招商銀行人工智能實驗室主任

腦機接口的應用前景廣闊，可以為癱瘓者帶來希望，也可以提升在VR、元宇宙等數字場景下的玩家體驗。通過腦機接口技術，我們可以將大腦信號轉換成數字指令，不僅可以延伸在物理世界的操作能力，同時也可以更加自然地體驗虛擬世界。而微芯片的研發，使該技術更加容易被使用，從實驗環境走向用户市場。但是，人類對自身大腦的研究還有很長的路要走，對大腦認知機理也缺乏充分的理解，因此腦機接口技術的使用還需謹慎，特別是植入芯片的潛在風險需要多方考量和驗證。

**事件十、**人臉識別第一案在浙江省杭州市中級人民法院迎來終審宣判

2021年4月，“人臉識別第一案”在浙江省杭州市中級人民法院迎來二審判決：判決維持杭州野生動物世界賠償郭兵合同利益損失及交通費共計1038元；刪除郭兵辦理指紋年卡時提交的包括照片在內的面部特徵信息，以及指紋識別信息；駁回郭兵的其他訴訟請求。（來源：綜合自新京報、錢江晚報等）

石霖  中國信息通信研究院雲計算與大數據研究所人工智能部副主任

近年來，人臉識別技術創新發展，被廣泛應用於公共安全、金融支付、交通出行等領域，也暴露出仿冒攻擊、信息濫採、數據泄露等問題，屢屢成為社會焦點。“人臉識別第一案”終審判決之後，我國頒佈法律規定對包括人臉信息在內的生物識別信息進行專門性的保護，體現了我國重視個人信息特別是生物識別信息保護的態度和決心。中國信通院雲大所也緊跟熱點，發起成立了“可信人臉應用守護計劃”，重點針對人臉識別技術安全、人臉信息處理合規，聯合各方共同探索可信人臉應用範式，促進人臉識別的有效治理和產業健康發展。

劉偉  北京郵電大學人機交互與認知工程實驗室主任、科技委人機融合智能組首席科學家

大數據讓生活越來越方便，但任何技術都不應背離以人為本的原則。“人臉識別第一案”體現了個人信息主體對於個人信息保護關注度的提升，社會公眾對於人臉識別信息的重視度日益增加；也體現了司法層面對於個人信息的保護，已充分關注到企業收集使用個人信息必須遵守“合法、正當、必要”三原則；同時也為企業敲響了警鐘，提醒企業在收集使用個人信息的業務中應當更加註重合法合規，防止因處理個人信息不當造成企業風險，防止因此陷入民事訴訟或行政處罰乃至牽涉到刑事責任。