百歲基辛格：智能革命或終結啓蒙運動，但人類遠沒準備好_風聞
返朴-返朴官方账号-关注返朴（ID：fanpu2019）,阅读更多！05-27 10:15
今年，基辛格和谷歌前首席執行官埃裏克·施密特、麻省理工學院蘇世民學院院長丹尼爾·胡滕洛赫爾聯名在華爾街日報發表文章《ChatGPT預示着一場智能革命》，提出“人工智能正試圖改變人類認知過程，這是自印刷術發明以來從未經歷過的震動。隨着它的能力變得更廣泛，它們將重新定義人類知識，加速我們現實構造的變化，並重組政治和社會。”
作為一個曾對當今世界秩序產生深刻影響的政治家，其洞見迅速引發全球關注。在自己的生命歷程整整走過一個世紀之際，繼《論中國》《世界秩序》之後，基辛格再次推出的新書——《人工智能時代與人類未來》，對以上觀點進行了深刻論述。
人工智能可能導致啓蒙運動的終結
1450 年，德國美因茨市的金匠約翰內斯·谷登堡用借來的錢研製了一台試驗性的印刷機。他的努力難言成功，因為他的生意一度陷入困境，債權人還起訴了他。但在1455 年，歐洲的第一本印刷讀物《四十二行聖經》問世了。最終，他的印刷機引發了一場革命，在西方乃至全球生活的各個領域都產生了強烈反響。
印刷機的發明使對經驗知識的追求取代了禮儀教義，啓蒙時代逐漸取代宗教時代。個人思想和科學知識取代信仰，成為人類意識的主要標準。信息通過圖書館的擴張得到存儲和系統化。啓蒙時代是塑造當代世界的諸多思想和行動的來源。
生成性人工智能提出了一個自啓蒙運動開始以來從未經歷過的哲學和實踐挑戰。印刷機使學者們能夠迅速複製彼此的發現並分享它們。信息的空前整合和傳播產生了科學方法。原本密不透風的東西變成了加速查詢的起點。以宗教信仰為基礎的中世紀對世界的解釋逐漸被削弱。宇宙的深處可以被探索，直到達到人類理解的新極限。
啓蒙運動試圖使傳統的真理讓位於解放後的人的分析理性。而互聯網的目的是通過積累和操縱不斷擴大的數據，獲取知識。人類的認知失去了個體特徵。個體變成了數據，而數據變成了統治者。
當信息被情境化時，它就變成了知識。當知識令人信服時，它就變成了智慧。然而，互聯網讓用户淹沒在數以千計，甚至數以百萬計的其他用户的意見中，剝奪了他們持續思考所需的獨處感，而從歷史上看，正是這種獨處感催生了對知識的信念。隨着獨處感的消失，堅毅的精神也不復以往——須知不僅信念的形成需要堅韌不拔的毅力，保持對信念的忠誠也一樣，當這種信念需要穿過未有前人踏足的，因此往往是孤獨的道路才能獲取時尤其如此。這種信念也只有與智慧相結合，人們才能進入和探索新的視界。
數字世界對智慧沒有多少耐心，它的價值觀是由讚許而不是自省塑造的。它從本質上挑戰了啓蒙運動認為理性是意識最重要因素的主張。數字世界消除了過去距離、時間和語言對人類行為的限制，它本身就提供了一種有意義的聯繫。
隨着人工智能的崛起，對人類角色、人類願望和人類成就的定義都將發生變化。在這個時代，人類的哪些品質值得頌揚？其指導原則是什麼？人們有兩種認識世界的傳統方式：信仰和理性；如今又添上了第三種——人工智能。
在一個人工智能可以評估我們生活中的諸般事物，預測接下來會發生什麼，並決定該做什麼的時代，即一個現實可以被預測、近似和模擬的時代，人類理性的角色將會改變。我們對個人和社會的目標感也會隨之改變。在某些領域，人工智能可能會增強人類的理性。在其他領域，人工智能則可能會讓人類產生一種置身事外的感覺。
各個社會都有兩個選擇：一個是各自為戰；另一個則是帶着合作意向開始對話，舉全人類的進步之力來界定人工智能的角色，同時明晰我們自己的角色。前一種路徑是棄權式的默認，而後一種則需要領導人和哲學家、科學家和人文主義者，以及其他各種團體的清醒參與。
最終，個人和社會將不得不決定，生活的哪些方面應該留給人類智能，哪些方面則應交由人工智能或人類與人工智能的合作。人類與人工智能的合作並不是一種對等關係。歸根結底，人工智能既由人類構建，也由人類指揮。但隨着我們逐漸習慣和依賴人工智能，對其加以限制可能會導致更高昂的成本、更困難的心理挑戰，甚至更復雜的技術。我們的使命將是瞭解人工智能給人類經驗帶來的變化、它對人類身份的挑戰，以及這些發展變化的哪些方面需要由其他的人類義務來加以調節或制衡。人類未來將如何呈現，這取決於人類在人工智能時代的角色界定。
人工智能革命發生之迅猛，將超過大多數人的預期。除非我們發展出新的概念來解釋、演繹和組織其所帶來的轉變，否則無論是對人工智能還是對其所產生的影響，我們都無法駕馭。在道德上、哲學上、心理上、實踐上，可以説在各個方面，我們均發現自己正處於一個新時代的懸崖邊，身後已無路可退。我們必須動用自己最根本的素養和資源，比如理性、信仰、傳統和技術，來調整我們與現實的關係，從而讓現實仍是人類的現實。
人工智能將引發教育革命
人工智能時代的到來將改變我們與他人，以及我們與自己的關係。正如今天的“數字原生代”和之前的幾代人之間存在代溝一樣，“人工智能原生代”和他們的前輩之間也會出現差異。
未來，孩子們可能在比Alexas和谷歌Homes更先進的人工智能助手的陪伴下長大，這個助手集保姆、導師、顧問、朋友等多種角色於一身。這樣的助手幾乎可以教孩子任何語言，也可以訓練孩子學習任何科目，並根據每個學生的表現和學習風格來因材施教，使他們獲得最佳的學習效果。當孩子感到無聊時，人工智能可以充當玩伴；當孩子的父母不在時，人工智能又可以成為監護者。隨着由人工智能提供和量身定製的教育被引入，普通人的能力既會有所提高，也會面臨挑戰。
人類和人工智能之間的界限將會驚人地模糊。如果孩子在年幼之時就用到了數字助手，他們就會對此習以為常。同時，數字助手將與它們的主人一起成長髮展，並隨着他們的成熟，將他們的喜好和偏見逐漸內在化。數字助手的任務是通過個性化最大限度地提高人類同伴的便利感或滿足感，它們給出的建議和信息可能會被人類用户視為必不可少，即使人類用户無法準確解釋為什麼它們要好於其他任何替代資源。
長此以往，人們可能會更偏愛自己的數字助手，而不是人類。因為人類不懂得投其所好，而且更“令人討厭”。結果，我們對彼此的依賴、對人際關係的依賴，可能都會被削弱。到那時，那些童年時代妙不可言的特質和無可替代的教訓將變成什麼樣子呢？一種並不能感知或體驗人類情感卻給予無處不在陪伴的機器，將如何影響孩子對世界的感知及其社會化？它將如何塑造想象力？它將如何改變遊戲的本質？它將如何改變交友或融入社會的過程？
可以這麼説，數字信息的唾手可得已經改變了一代人的教育和文化體驗。現在，世界正在開展另一項“偉大實驗”，在這個實驗中，孩子們將在機器的陪伴下成長，這些機器將在許多方面充當以前世代人類教師那樣的角色，卻沒有人類的感覺、洞察力和情感。最終，實驗參與者可能會問，他們的經歷是否以他們未曾預料或不能接受的方式被改變了呢？
父母也許會因為擔心這種接觸會對孩子產生不確定的影響而排斥這種技術。就像上一代的父母限制孩子看電視的時間，現在的父母限制孩子使用數碼設備的時間一樣，未來的父母可能會限制人工智能陪伴孩子的時間。但那些希望推動孩子取得成功的人，或者沒有意願或能力讓孩子得到人類父母養育或人類導師教導而只能依賴人工智能的人，或者只是想滿足孩子結交人工智能朋友願望的人，可能會贊成讓孩子與人工智能為伴。因此，這些尚處在學習與發展階段、易受影響的孩子，可能通過與人工智能的對話形成他們對世界的印象。
具有諷刺意味的是，儘管數字化讓越來越多的信息變得可用，但它卻壓縮了深入、專注思考所需的空間。今天幾乎持續不斷的媒體流增加了思考的成本，從而減少了思考的頻率。算法為了回應人類對刺激的渴望而力推那些奪人眼球的事物，而能夠奪人眼球的，往往也是戲劇性的、出人意料的和有感染力的。一個人能否在這種環境中找到思考的空間是一個問題，而如今占主導地位的交流形式不利於促進有節制的理性，這是另一個問題。
人類要對未來做好準備
機器學習系統已經超越了任何一個人的知識。在有限的情況下，它們已經超過了人類的知識，超越了我們所認為的可知邊界。這已經在取得這種突破的領域引發了一場革命。人工智能已經改變了生物學中確定蛋白質結構的核心問題和高級數學家做證明的問題，以及其他許多問題。
隨着模型從人類生成的文本轉向更具包容性的輸入，機器可能會改變現實本身的結構。量子理論認為，觀察創造了現實。在測量之前，沒有任何狀態是固定的，也沒有任何東西可以説是存在的。如果這是真的，如果機器的觀察也能固定現實，並且鑑於人工智能系統的觀察具有超人的速度，定義現實的演變速度似乎會加快。對機器的依賴將決定並因此改變現實的結構，產生一個我們還不瞭解的新未來，我們必須為探索和領導這個未來做好準備。
傳統的理性和信仰將在人工智能時代繼續存在，但其性質和範圍必將因為引入一種新的、強有力的、機器運作的邏輯形式而受到深刻影響。人類身份可能會繼續停留在“生命智能”的頂峯，但人類理性將不再被視為致力於理解現實的智能的全部。為了釐清我們在這個世界上的地位，我們的側重點可能需要從“以人類理性為中心”轉移到“以人類尊嚴和自主性為中心”。
人工智能可能在探索和管理現實世界和數字世界方面發揮主導作用。
在特定領域，人類可能會對人工智能言聽計從，更喜歡人工智能的數據處理過程，而非人類思維的侷限性。這種遵從，可能使許多人甚至大多數人退回到一個個人的、過濾的、定製的世界。在這種情境下，人工智能的力量加上它的普遍性、隱蔽性和不透明性，將引發人們對自由社會甚至自由意志前景的懷疑。
在許多領域，人工智能和人類將成為探索事業中的平等夥伴。因此，人類的身份將反映出與新關係的和解，無論是與人工智能還是與現實。不同的社會將為人類領導權開闢不同的領域。同時，它們將形成必要的社會結構和習慣，以理解人工智能並與其有效互動。為了與人工智能融洽相處，社會需要建立相應知識和心理基礎設施，並運用其獨特才智，儘可能地造福人類。技術將迫使政治和社會生活的許多方面（實際上是大多數方面）做出調整。
一些社會和制度可能會逐步適應，然而，另一些卻可能會發現，它們的基本假設與它們感知現實和自身的方式相沖突。由於人工智能促進了教育和信息獲取，同時也增加了信息被誇大和操縱的可能性，這些衝突可能會愈演愈烈。個人的消息會更靈通、準備會更充分、觀點會有更大影響力，他們可能據此對政府提出更多要求。
對此，可以給出一些原則。首先，為了確保人類的自主權，政府的核心決策應該脱離已被人工智能浸染的結構，並僅限於人類的管理和監督。我們社會固有的原則規定了對爭端的和平解決。在這個過程中，秩序與正當性是互為關聯的：沒有正當性的秩序只是力量而已。
確保人類對政府基本構成部分的監督和決定性參與，對於維持其正當性至關重要。例如，在司法行政過程中，提供解釋和道德推理是其正當性的關鍵要素，這使參與者能夠評估裁決的公平性，並在其結論不符合社會所堅持的道德原則時對其提出疑問。由此可見，在人工智能時代，當涉及重大問題時，決策者都應該是具備相應資質、能夠為所做選擇給出理由的非匿名人類。
每個社會必須首先確定人工智能在各個領域允許和不允許使用的全部範圍。對某些強大的人工智能，如通用人工智能的使用權，需要嚴格把關，以防止被濫用。因為通用人工智能的構建成本可能相當高昂，只有少數組織能夠負擔得起，所以其使用可能會受到限制。某些限制可能違反一個社會關於自由企業和民主進程的理念。對於其他方面的限制，如限制在生物武器生產中使用人工智能，應該很容易達成一致，但需要國際合作。
機器的發展速度將遠遠超過我們的基因，造成國內的混亂和國際的分歧。我們必須做出相應的反應，特別是在國家和全球範圍內的哲學和概念主義。正如伊曼紐爾-康德在三個世紀前所預言的那樣，全球協調將需要通過感知或災難來出現。
歐盟已經勾勒出監管人工智能的計劃綱要，目標是加強對企業和政府使用數據和人工智能方式的管理，並促進歐洲人工智能公司的創建和發展。該監管框架包括對人工智能的各種用途進行風險評估，並限制甚至禁止政府使用某些被視為具有高風險的技術，如人臉識別（儘管人臉識別有一些有益用途，如尋找失蹤人口和打擊人口販運）。毫無疑問，這些初步概念會面臨廣泛的爭議和修改，但這也是一個社會決定限制人工智能範圍，並相信此舉能夠使其推動生活方式進步和未來發展的先例。
ChatGPT對很多問題給出的答案之所以令人回味，是因為它們提出的問題多於結論。目前，我們擁有一項新穎而壯觀的成就——人工智能，它是人類思想的榮耀。我們還沒有為它進化出一個目的地。當我們成為技術智人時，我們迫切需要定義我們物種的目的。現在，我們有責任提供真正的答案。
本文經出版社授權發佈，原題為《基辛格：ChatGPT預示着一場智能革命，而人類還沒準備好》。
↓↓↓前往“返樸”，點擊文末“閲讀原文”即可購書
1. 進入『返樸』微信公眾號底部菜單“精品專欄“，可查閲不同主題系列科普文章。
2. 『返樸』提供按月檢索文章功能。關注公眾號，回覆四位數組成的年份+月份，如“1903”，可獲取2019年3月的文章索引，以此類推。
版權説明：歡迎個人轉發，任何形式的媒體或機構未經授權，不得轉載和摘編。轉載授權請在「返樸」微信公眾號內聯繫後台。