謝耘：“外意識”爆發給人類帶來的挑戰

**編者按：**在人工智能浪潮席捲全球的今天，“外意識”——由現代電子計算機及人工智能技術所展現的意識性工具，正以前所未有的速度重塑着人類文明。隨着計算能力的飛躍，這一新興力量不僅帶來了前所未有的便利與創新，也悄然間對人類自身的意識能力發起了挑戰。

在本文中，清華大學電子工程系博士謝耘深度剖析了“外意識”的誕生、發展及其對人類社會的深遠影響，探討了在智能紀元下，人類如何面對並治理這一新興力量帶來的挑戰，確保科技發展與人類自身的和諧共生。

【文/觀察者網專欄作者 謝耘】

一．人類創造的意識性工具

製造工具是人類脱離動物界的起點，不斷更加複雜的工具也是推動人類文明持續發展的直接動力。

1946年誕生的現代電子計算機，在人類文明發展史上是一個極為重要的里程碑，其意義遠超工業革命。

1946年2月14日，世界上第一台電子計算機 ENIAC  圖源：騰訊科技

在此之前，人類創造的所有工具都是作用於物質之上，為了人類的目的而去改變物質對象的性質或狀態。比如提取能量、合成材料、運輸物品等等。我們可以稱這些技術與工具是物質性技術與工具，那時屬於人類文明的物質紀元。

現代電子計算機則與物質性技術與工具完全不同。它作用的對象是數據或稱為信息，而不是物質對象。至今在標準的大學教科書中一直存在一個錯誤的説法：“信息與物質和能量是構成世界的三個基本要素。”這種表述將信息當成了客觀之物，而且是構成世界的最基本的三要素之一。

反駁這種説法的一個最簡單有力的方式便是反證法：有哪一個描述世界基本運動規律的物理原理方程中，存在“信息”這個參數變量？如果沒有，何來它是構成世界的基本要素的論斷？我們不能因為信息對人類很重要，就把它誇大為構成世界的基本要素。人類並不代表世界，僅僅是世界的極微小的一部分。不是世界的基本要素，那它是否依然可以是客觀之物？對此著名科學家、控制論創立人諾伯特·維納有句名言：“信息就是信息，它既不是物質，也不是能量。”

80年代IBM計算機  圖源：pixabay

認真考察就不難發現，數據或稱信息是人類意識活動的產物，也是絕大部分意識活動必需的基本要素。它是一種意識範疇的存在。所以，現代電子計算機所代表的信息技術的應用，不是一種改變物質性狀的過程，而是一種意識類的活動（謝耘，“信息技術的智能本質與人類的外意識”，微信公眾號“慧影Cydow”，2019年5月9日）。

在現代電子計算機誕生之前，人類的意識活動只能由我們自己的大腦來完成。外部工具最多起到記錄的作用。比如算盤，僅僅是一個計算過程的記錄工具，而不是一個可以自己完成計算的計算工具。

現代電子計算機實現了零的突破。通過計算機程序，我們可以把某些類型的意識活動注入到計算機之中，然後由計算機自己來完成這個意識活動。這種意識活動從計算類任務開始，隨着計算機能力的提升，逐步發展出了眾多的類型。

直到2010年“暴力計算”的出現，讓“人工智能”再次復興，導致今天的計算機已經可以像模像樣地與人交流，相當自如地“説人話”了。計算機應用今天所具有意識活動能力和特性在許多方面還遠無法與人相比，比如它還沒有自我意識、沒有情感。但是在世界的兩大基本範疇中，它依然屬於意識性活動，而非物質性活動，是人類大腦之外的意識---“外意識”。

與ChatGPT交流  圖源：36氪

所以，1946年誕生的電子計算機不是“電子算盤”，而是人類創造出來的一個史無前例的“意識性技術與工具”，對於人類文明的發展，具有空前的里程碑意義。它讓人類文明的發展歷史性地擁有了兩個輪子：分別是物質性和意識性的技術與工具。所以它的誕生超越了工業革命對人類的意義，接近於人類幾十萬年前開始學會製造工具而告別動物界。它開啓的是人類文明的智能紀元。因此，人類今天所面臨的變化與挑戰，比起人類文明從農業到工業形態的轉變，更加全面深刻。在這個過程中，“外意識”的兩個本質性的作用尤其影響深遠。

二．“外意識”對人類的意識能力的不斷削弱

在2010年之前，計算機或稱芯片的處理能力還捉襟見肘。在許多場合計算能力遠不能滿足需要，所以計算機應用或稱人類的“外意識”尚不發達，沒有顯現出其深刻改變人類社會的作用。2010年後，由於集成電路技術跨過了一個關鍵的發展節點：從32納米邁向了22納米量級，讓計算機進入了“暴力計算”時代。“暴力計算”對於信息技術應用這個人類的“外意識”而言，類似於物質性技術與工具發展歷程中的工業革命。以人工智能為代表的各種應用自此到處開花結果，催生了所謂的“第四次工業革命”。

圖源：pixabay

看到這個景象許多人驚呼人工智能將取代人類，至少將會讓大批人失業。其實這種焦慮是有些多餘了。在工業革命發生之初，社會蔓延着同樣的焦慮。而後來的事實證明，雖然許多工作被機器代替，但是由於機器的出現而產生了更多的工作，吸收了大量的就業人口。

不必過於為失業焦慮並不是説“外意識”的發展不會帶來重大的潛在問題。事實上對於人類來説，問題將相當的嚴重，嚴重到人是否還將會是“人”。

人類物質性技術與工具的發展有一個顯而易見也頗具共識的後果，就是人類的體能退化了。因為物質性工具將大量的體力工作接了過去。所以在一些科幻作品中，未來人類的形象是一個瘦弱的身體上頂着一個碩大的腦袋：人類智力高度發達，但體能嚴重萎縮。

工業人形機器人已進工廠實景訓練  圖源：新華社

在人類體能不斷退化、各種曾經的老年病成為了中青年甚至是青少年的疾患之後，由於良好的食物與醫學的進步，人類的預期壽命大幅提升。所以人類並沒有太在意這種退化，因為我們本來也不是靠體能取勝而成為萬物之靈的物種。

與此類似，意識性的技術與工具的大規模普及與應用也會帶來人類的退化，但這次不再是體能，而是智能。問題的性質變了。

當“外意識”可以代替人類做越來越多的本來需要我們自己去勞神費力做的腦力工作後，我們的腦袋就會逐步退化。或許很多人會説，機器不過是代替我們做一些相對簡單的日常性工作，重要的複雜工作不是還要靠我們自己做嗎？何來退化一説？

遠古時期人類由於生存需要，體能相對充沛。網易

如果我們認真思考就不難理解，當我們放棄那些看上去“簡單”的腦力勞動後，我們幾乎必然會逐漸失去做複雜的腦力勞動的能力。除非你經常在做複雜的腦力勞動，否則最終的結果很可能是我們不僅不再能從事複雜的腦力勞動，連簡單的也已經做不好了。這將是一個不知不覺的退化過程，就像堅硬的岩石最後風化為塵土那樣。

如果這種退化現象大規模發生，它對人類的意義必然完全不同於體能的退化。因為人類正是靠智能而區別於其他物種、成為萬物之靈。如果智能大規模退化，我們是否將逐步喪失人之所以為人的基礎，而轉頭向動物界迴歸？

我們必須承認，懶惰是人性中很難克服的弱點。但凡有工具可以依賴，絕大多數人都會選擇不再自己勞心費力。高度自律是少見的品德。所以隨着各種智能應用的出現與普及，人類中絕大多數的人的智能退化恐怕很難避免。其實這個現象在互聯網上已經開始顯現出來，許多人已經理直氣壯地沒有了掌握一些基本常識的能力。這種智能的退化不僅僅涉及到社會人們之間的公平與公正，而將是一個侵蝕人之所以為人的根本基礎的重大問題。

人類里程碑式的創造，給自身提出了一個前所未有的挑戰：我們是否還會繼續作為“人”而存在？

三．虛擬空間帶來的人類與真實世界的割裂

意識性的信息技術不僅產生了具有不同功能的各種“外意識”應用，而且創造出了一個容納“外意識”於其中的虛擬空間。

這個虛擬空間不僅向人講述着虛擬世界的“故事”，還講述着真實世界的“故事”。每個人在虛擬空間中耗費的時間比例越來越大。一家人出去吃飯，上菜前各看各的手機已經是司空見慣的場景了。

虛擬空間對人的精力的吸引，帶來了兩個嚴重的問題。

首先，我們在不自覺地疏遠真實的世界，包括自己的同伴。虛擬空間中的接觸永遠無法完全等價於在現實空間中的面對面交流與感受。這種疏遠帶來的一個實質性問題便是我們對真實世界的實在感知會隨之減少。而一個人對真實世界的實在感知是他理解能力賴以建立的基礎（謝耘，“理解，知識與人工智能”，微信公眾號“慧影Cydow”，2023年12月19日）。

虛擬世界  圖源：電影《頭號玩家》海報

對真世界的實在感知的減少，必然導致對其正確理解的下降。或許有人會説人們將從虛擬空間中獲得更多的關於真實世界的認識。這就引出了第二個問題。

虛擬空間是人類創造的。這幾年的一個熱詞就是“數字孿生”。這是一個帶着虛幻、給人以極大誤導的詞。“孿生”是指兩個完全等同的存在物。而虛擬空間中的存在，並不等同於其在真實世界的對應物。它僅僅是真實世界存在的一個“映像”，是真實存在的一個“虛擬映像”。通過“虛擬映像”去感受真實存在，是會有難以估計的、不自覺的遺漏和偏差的。這種遺漏和偏差不僅僅由“映像”與真實存在之間的差異導致，還來源於構造“映像”的人對真實存在的認識侷限。而且如果人類對真實存在的感知越來越多地依賴虛擬空間提供的信息，這種遺漏與偏差還會在不覺中持續積累。

數字孿生工廠  圖源：中新網

虛擬空間的這兩個作用可能會導致人類與真實世界不斷地疏遠與割裂。不論我們如何讚美與陶醉於人類創造物的宏偉，這種疏遠與割裂都應該不是人類正常發展的方向。如果人類最終蜷縮在自己構造的虛擬空間中而與真實的世界格格不入，發展出“真實世界恐懼症”，那恐怕是一種末日的降臨，而非人類文明的升級。

四．“外意識”的管理與智能紀元的啓蒙

工業革命之後，人類藉助現代科學與技術在物質性技術與工具的發展上一路高歌猛，甚至可以説肆無忌憚，毫不在意引發的各種不良後果，包括對人類生存環境的破壞及對自身健康的危害。

1962年引起巨大爭議的《寂靜的春天》一書在美國出版。雖然書中有諸多不準確甚至錯誤的地方，但是它終於拉響了人類環保事業與可持續發展啓航的汽笛，成為改變人類物質性技術與工具發展軌跡的不朽之作。作者蕾切爾·卡森在書的前言中寫道：“這些戰鬥將最終取得勝利，並將理智和普通常識帶回給我們，使我們與環繞着我們的世界和諧相處。”

蕾切爾·卡遜與《寂靜的春天》

物質性的破壞作用直觀而且易於科學地評估，卻還需要付出巨大的社會性努力才能形成共識；意識性的不良影響就要隱蔽很多，而且難以客觀估量，人類對意識性技術與工具的管控將會困難百倍。

今天，當“暴力計算”將包括人工智能在內的“外意識”的發展推向一個前所未有的高潮的時候，我們需要冷靜、理性及睿智地面對它帶給人類的前所未有的機會與挑戰。

首先，我們需要把它明確地當成意識性活動來看待，這是考慮一切相關問題的基點，而不能按照習慣把它歸入傳統的物質性技術與工具之列。物質具有客觀機械特徵，對物質性工具可以做到客觀評價與整齊劃一的要求；意識則天然有主觀性與個性，消滅了意識性工具的主觀性與個性也就消滅了“外意識”本身。人類社會有許多管理意識活動的經驗與做法可以借鑑，當然這裏更有巨大的挑戰需要我們去應對。“外意識”藉助網絡對社會具有史無前例的滲透性，ChatGPT用户的爆炸性增長就是一個典型的例子。這是傳統的意識性活動所不具備的。

其次，在人類的物質極大豐富、意識性工具花樣翻出的今天，提升人類每一個成員的自我約束、自我管理、自我負責的意識，而不是一味依靠極少數精英設計的外在強制性措施，可能才是人類文明能夠持續健康發展的出路所在。其實歸根到底，任何的社會約束都要建立在大眾共識之上。這一挑戰是所有國家與民族都無法迴避的。而對於有着幾千年大一統經歷的國家，面對這個挑戰尤其艱難。新的挑戰需要新的創造，試圖走回頭路便是放棄未來。

回望歷史，人類每掌握一種新的強大力量之後，必然伴隨自我約束、自我管理、自我負責的意識的提升，否則便會是災難叢生。20世紀初人類掌握了強大的物質性科學與技術，隨後便陷入空前的混亂與災難之中。但是人類後來掌握了可以毀滅地球的核武器之後，卻至今沒有發生全球規模的熱戰，就是緣於在20世紀初兩次世界大戰血的教訓後，人類建立了新的國際秩序，改變了原來國家民族間一味弱肉強食的叢林法則，變得更加文明。

1945年二戰結束後，雅爾塔體系取代凡爾賽——華盛頓體系作為二戰後世界新秩序  圖源：中新網

所以人類文明的發展，不僅僅是工具的進步，還必須伴隨人類自我約束、即文明程度的相應提升。今天，“外意識”的出現帶來的不再是人與自然如何相處的問題，而是我們如何關照自己作為一個人而擁有的靈魂的問題；“外意識”不僅僅是國家間的實力差異問題，更是涉及每一個人如何為人、如何發展的問題。所以每一個人類的成員的更進一步的自我約束、自我管理、自我負責便成為了直接關係人類文明未來走向與命運的問題。而由此形成的社會性共識便決定着人類的文明水平與走向。文明必然走向更加光明的未來並非是一件理所當然的事情，事實上，地球上出現的一些文明就徹底地消失在了地球歷史的塵煙之中。人類文明的未來是光明還是黑暗取決於人類的理性智慧所能達到的高度。

這或許是人類進入到智能紀元後的一次關鍵的自我啓蒙。它不是人的慾望的覺醒與釋放，而是人的理性智慧的再一次躍升。

本文系觀察者網獨家稿件，文章內容純屬作者個人觀點，不代表平台觀點，未經授權，不得轉載，否則將追究法律責任。關注觀察者網微信guanchacn，每日閲讀趣味文章。