事關人工智能的未來 全球科技人士在上海尋找這一問題的答案

強化人工智能的全球治理，已經到了必須重視的關鍵時刻。

2024世界人工智能大會暨人工智能全球治理高級別會議7月4日在上海開幕。“全球治理”的關鍵詞，引發業界廣泛關注。

當前，人工智能技術的快速發展，為人類社會發展帶來了諸多紅利，同時也出現了不少風險挑戰。如何在全球範圍內通過協同共治，實現人工智能發展與安全並重，成為各方亟需對話與合作的重大課題。

喜憂參半的新技術

很多後世廣為採用的技術，在出現之初都曾受到抵制。古騰堡印刷術發明後，就有歐洲知識階層竭力反對，認為印刷技術將帶來大量粗製濫造的印刷品，從而敗壞文本。紡織機出現後，大批因此失業的紡織工人發起抵制運動，甚至搗毀機器。火車初入清朝，有反對者稱“鐵路一開，則中國之車伕販豎將無以謀衣食，恐小民失其生計，必滋事端”。

但縱觀技術發展史，對新技術的懷疑者大多是受它們影響的人羣，而極少是技術的發明者、研究者。如果説有例外的話，可能要數原子彈。愛因斯坦、奧本海默等原子彈的先驅都對這項發明產生了深深的憂慮，呼籲各界共同反對使用這項致命武器。

當下，人工智能就引發了它的創造者——全球科技界的擔憂，或者更準確地説是喜憂參半，因為它有明顯造福人類的特性，但也有難以迴避的風險和不確定性。包括馬斯克在內的多名科技界知名人士曾發表公開信，呼籲六個月內暫停研發人工智能技術。

對人工智能的擔憂首先來源於它在某些方面超越人類的卓越表現。例如人工智能程序AlphaZero能夠戰勝人類最優秀的國際象棋選手，它的戰術出人意料，有些走子模式人類心智甚至無法完全理解。世界冠軍卡斯帕羅夫在觀察和分析了AlphaZero的棋局後説：“AlphaZero徹底動搖了國際象棋的根基。”當人工智能不斷探索國際象棋的極限，那些窮其一生方才精通此術的人類棋手能做的，卻只有觀察和學習。下棋，只是人工智能小試牛刀的遊戲。它在人類引以為豪的思維疆域裏，還在不斷地挑戰邊界。

更令人憂慮的是，人們尚無法索解人工智能的智能從何而來。人工智能的核心技術——深度學習常常被稱為“黑盒子”，意思是説，雖然它的代碼、參數、訓練方法是公開透明的，但人們仍然難以追蹤、理解和預測它們如何從特定的輸入生成特定的輸出。不僅是普通人、使用者無法理解，即使那些書寫人工智能代碼的程序員也無法預測。

人工智能既有強大的潛能，又有巨大的不確定性。面對這項攸關全人類命運的新技術，世界各國基本達成共識，必須對話合作，構建開放、公正、有效的治理機制，促進人工智能技術造福於人類。

逐漸清晰的治理思路

去年10月，中國提出《全球人工智能治理倡議》，並於7月1日在第七十八屆聯合國大會上協商一致通過。在中國和全球其他國家的持續探索下，人工智能治理的思路也逐漸清晰。

一方面，強化人工智能的全球治理，已經到了必須重視的關鍵時刻。

監管改善了商品、基礎設施和社會。正是因為有了監管，汽車才有了安全帶和安全氣囊，我們才不用擔心牛奶會被污染，建築物才會建造得方便所有人使用。明智的監管可以確保人工智能被人類負責任地使用。

一個反面的案例是互聯網。互聯網誕生在一個強調自由發展、弱化監管的年代，事後我們才知道，互聯網的設計本可以做得更好，考慮得更周全。比如，早些決定如何處理隱私和匿名問題，也許就能減少“釣魚”和“人肉”。

清華大學人工智能國際治理研究院院長薛瀾介紹，最近有研究表明，在經濟發展、社會發展和環境可持續發展三大領域中，人工智能會對134個具體目標產生促進作用，但也可能對59個具體目標產生阻礙作用。

這説明，只有儘快深入全球各個領域研究治理辦法，才能推動人工智能健康發展，儘可能地讓它收益最大化，同時把風險降到最低。

上海人工智能實驗室主任、首席科學家周伯文在本屆大會上向大家展示了一張座標圖——橫軸是人工智能技術能力的提升，縱軸是人工智能的安全維度，理想的路線是人工智能沿着45度的直線安全與性能平衡發展，而現在的實際路線則是一條長期低於45度的波動曲線，顯然發展是失衡的，安全技術滯後於性能提升。據他介紹，目前99%的算力用於模型預訓練，只有不到1%用於安全對齊。

發展的失衡，也就造成了數據泄露、技術濫用和算法歧視等一系列問題，更凸顯了人工智能全球治理的必要性和緊迫性。

另一方面，想要搞好人工智能治理，必須利益攸關方共同參與。

新思科技總裁兼首席執行官蓋思新在本屆大會演講中表示：“人工智能創新的步伐必須謹慎平衡其負責任發展的需求，而實現這種平衡的最佳方式就是全球協作。全球協作能夠使全世界人民從人工智能帶來的巨大進步中受益，同時確保這些創新能力得到負責任的實踐。”

在圖靈獎得主姚期智看來，安全治理正在成為一個學術交叉新領域，包括AI、密碼學、政治、法律、企業等多領域需要合作。

也就是説，除非各國政府、眾多人工智能公司甚至世界公眾都參與進來，否則任何解決方案都不可能成功。

以各國間的合作為例，在政府合作層面，中國在《全球人工智能治理倡議》裏強調廣泛與公平，提出各國無論大小、強弱，無論社會制度如何，都有平等發展和利用人工智能的權利；強調要建立更加廣泛的人工智能合作機制，共同推動人工智能治理進程。

這種全球合作是有先例可循的。例如，第二次世界大戰結束時，核武器引發了人們對如何使用新技術的深深恐懼和不確定性。作為回應，81個國家一致通過了國際原子能機構的章程，開發安全、可靠、和平的核技術。還有一些全球合作模式，如國際民用航空組織，更為柔和，它不太注重執行，成員國制定自己的法律，但接受一個全球性機構的諮詢。

如今，為了建立有效合作機制共同應對人工智能帶來的全球性問題，人們來到上海尋找答案。5日，一場以“人工智能新進展與社會科學的未來”為主題的論壇將在世界人工智能大會召開。在上海市社會科學界聯合會召集下，各界將從社會科學的整體性高度出發，展望人工智能與社會發展的交互影響，併發布人工智能全球治理年度研究項目。

4日的大會開幕式上，上海向全球發佈了《人工智能全球治理上海宣言》。顯然，主動而強大的中國智慧，正嘗試着引領人工智能駛向更加有序、安全的未來。