傅瑩：人工智能的治理與國際合作
8月29日，2019世界人工智能大會在上海舉行。外交部原副部長、清華大學戰略與安全研究中心主任傅瑩在世界人工智能大會治理論壇上發表“人工智能的治理與國際合作”為題的講話。以下為演講全文：
（文/傅瑩）
傅瑩
一、關於人工智能治理面臨的挑戰。
進入21世紀的第二個十年，人工智能技術的應用進入快速發展的階段，隨着AlphaGo為代表的深度學習算法的成熟，人工智能技術出現大面積應用的趨勢。我最近訪問了一些企業，昨天在上海還看了三家企業，可以明顯地感受到我國人工智能產業所呈現出來的蓬勃發展態勢。可以期待，未來人類的生產和生活方式將發生更大的變化，生活將變得更加舒適和便利。
今年7月，我們在清華大學的世界和平論壇期間舉辦了三場論壇，邀請70多位國內外專家學者和企業家圍繞人工智能的風險和治理進行研討。大家比較一致的看法是，人工智能技術是一把“雙刃劍”，一方面帶來科技革命和產業升級的重要機會，另一方面，也帶來新的安全風險，在治理上人類將面臨與以往完全不同的難題。
例如，在立法上需要有新的思維。傳統的法律是要以社會基本共識為基礎的，因此往往要滯後於社會實踐。但是在人工智能技術上，我們恐怕沒有這樣奢侈的時間條件，因為這項技術的應用影響之快、之大，遠不同於傳統技術，治理的需求與技術的應用幾乎同步出現。
再比如，傳統立法者關注的是人與人之間的關係。而人工智能作為“非人行為體”，未來會越來越廣泛地參與人類活動，那麼，在人機共存，甚至人機衝突的情況下，如何面對和處置人類與機器的矛盾呢？“機器代替人”做決策的情況已經不是想象中的事，波音737-MAX的空難就是一個重要的警示。
人工智能的到來對就業模式的快速衝擊也是前所未有的。清華大學戰略與安全研究中心人工智能項目組的於洋老師牽頭做的《中國青年視角下的人工智能技術（AI）風險和治理》調查項目中，超過50%青年人表達的頭等關切是失業風險。如同以往的技術革命，人工智能將取代大量程式化的工作崗位，同時也會創造出新型崗位和就業機會。挑戰在於，如何才能讓人才結構的調整跑贏技術的更新迭代和產業結構的躍升？
**不能忽視的還有在倫理規範方面的新問題。**例如國際上討論比較多的人羣歧視和對個人隱私的尊重和保護等問題。有外國人對我説，中國人不需要隱私保護，我認為這是偏見。我國立法高度重視對個人權利的維護。在本月全國人大常委會審議的民法典人格權編草案稿中，針對收集、處理自然人個人信息有明確規定，要求必須“徵得該自然人或者其監護人同意”等，而且把個人生物識別信息也納入保護的範圍。
二、我國在創新制度和手段、推進人工智能治理方面加快部署。
習近平總書記明確要求，“要加強人工智能發展的潛在風險研判和防範”，“要確保人工智能安全、可靠、可控”，“要整合多學科力量，加強人工智能相關法律、倫理、社會問題研究，建立健全保障人工智能健康發展的法律法規、制度體系、倫理道德。”
總書記的要求是我們推進人工智能治理的重要指導方針。黨中央和國務院對人工智能的部署採取的是發展和治理同步推進的方針。今年2月科技部牽頭組建了中國國家新一代人工智能治理專業委員會，6月該委員會發布了新一代人工智能治理8條原則，強調發展負責任的人工智能。工信部在2017年就頒佈了《促進新一代人工智能健康發展三年行動計劃（2018-2020）》，其中也對治理提出要求。現在的重要任務是如何讓這些規則和要求落地，形成有利於我國人工智能健康成長的良性環境。上海在人工智能的研發和應用方面走在全國的前列，積極探索治理路徑，重視推進國際合作。在科技部和工信部的支持下，上海推動建立了國家人工智能創新應用先導區和國家新一代人工智能創新發展試驗區。可以期待，上海在人工智能治理的規則與制度的創新、開展國際合作方面也將走在全國的前列。
考慮到這個新興領域自身獨特的性質，我們一方面要加快對立規和立法的研究，另一方面也要依靠科學界和企業界採取負責任的態度和行為。如果科學家在每一項新技術的研發中都能思考其負面風險，如果製造商在每一個新技術的應用中同步構建風險管理的解決辦法，那麼，對這方面的挑戰就不難找到應對辦法，其立法和規範也就不難走出新的路徑。
目前很多人工智能企業希望有法律責任和範圍的清晰界定，認為這樣更有利於企業的發展，他們在採取一些自律措施的同時，也期待國內整體規則環境和基礎條件更快得到完善。
三、人工智能治理的全球視野和國際合作。
人工智能技術的研發和應用是在全球平台上實現的，因此，其治理也不是某個國家或區域的問題，而是涉及到全人類的福祉。因此，我們需要有全球視野，拓展全球合作。在這方面，國際社會有過一些經驗。例如核軍控和氣候變化等難題，都是先在學界、企業界和社會組織中被廣泛討論和推動，最終達成國際共識，形成有效的治理原則和制度。
目前，國際上圍繞人工智能帶來的挑戰正在進行廣泛和熱烈的討論，不少國家和機構出台了相應的法律法規和原則主張。但各國間仍缺乏大家共同接受的人工智能治理原則和在價值觀和理念上的共識。
中國對人工智能的國際合作和治理採取的是積極參與的開放態度，也主動搭建了不少平台，上海世界人工智能大會就吸引了國際和國內的不少關注。天津的世界智能大會、重慶的國際智能產業博覽會等，也都是向世界開放的交流平台。
中美關係的前景也關係到人工智能治理的國際合作。有人會説，美國挑起貿易戰，破壞全球貿易體系，是對國際秩序更大的挑戰。我覺得確實如此，這是一個主觀的破壞性行為，中美關係的動盪為人工智能國際治理的探索也帶來一定阻礙。
而現實中，中美學者在人工智能領域的關係是相當緊密的。根據科睿唯安提供的人工智能領域科技文獻數據，**從2013年到2017年，全球參與評估的167個國家/地區在“計算機、人工智能”發文排名中，中國大陸位居第一，發文量達到59573 篇，佔25.02% ；**其次是美國，發文量是32527篇，佔13.66％。中美兩國國際合作論文數量增長最快，過去五年中國大陸開展國際合作最多的對象是美國，美方開展國際合作最多的國家是中國大陸，雙方合作論文有四千多篇。
在人工智能技術的快速發展中，中美各有優勢。數據顯示，在涉及人工智能基礎層的算力、數據和算法三大關鍵要素中，美國在算力和算法上有優勢，巨頭公司基本掌握着開元算法平台和場景豐富的算法能力，而中國正在積累越來越多的應用和數據資源。從兩國的實踐看，如果中美無法有效合作形成共同標準的數據和算法，雙方的產業和未來發展都將受到很大影響。
習近平總書記在2018年致上海世界人工智能大會的賀信中指出，“新一代人工智能正在全球範圍內蓬勃興起”，“要把握好這一發展機遇，處理好人工智能在法律、安全、就業、道德倫理和政府治理等方面提出的新課題，需要各國深化合作、共同探討。中國願在人工智能領域與各國共推發展、共護安全、共享成果。”
因此，我們需要從相互依存、命運與共的“共同體”意識出發，主動參與和推動國際交流與合作，同時也要認真履行自己的責任。歷史上每一次科技革命都推動了新的國際議程的設置，相信人工智能技術也能成為各國合作的新平台，為全球化增添新的動力。中國人應該也能夠為此做出貢獻。
四、對人工智能的國際治理的三點建議。
一是保持開放性。人工智能的技術發展與產業應用是全球高度協作的成果，其未來的發展也依賴世界各國優勢互補，合作共享。因此，在人工智能的治理上也需要保持開放性，集合各國智慧與經驗，實現有效的全球治理。
二是合作性。人工智能被認為是一項綜合性的“原力技術”，其治理也需要多學科、多領域和多部門乃至多國的共同參與。各國在探討和構建治理機制的過程中，應積極開展國際合作，取長補短，才有可能實現有效的治理。
三是客觀性。人工智能作為革命性的新技術，難免引發很多誤解和懷疑，沒有人能準確預測技術的未來結果。國際治理應該秉承中立客觀的立場，保護科學家和企業家的創新積極性，尊重人的權利與尊嚴。
最後，我祝願上海世界人工智能大會能在推進人工智能國際合作、包容制度創新方面取得好的成果。也祝願與會代表們，能夠利用上海市搭建的這一平台，深入溝通、凝聚共識，為未來描繪美好的藍圖，為我們的後代留下更多的可能性。