汪行福｜ChatGPT的終極之問：賜福還是詛咒？_風聞

ChatGPT（以下簡稱GPT）對人類來説，到底意味着什麼？比爾·蓋茨認為，它是電腦、互聯網之後的第三大發明。基辛格對它的評價更高，認為它是繼印刷術發明以來最為重要的技術進步。GPT潛能巨大，將在極大範圍、極深程度上影響到當下生活和人類未來，其意義可放在上下五千年文明大背景下討論。

GPT能量巨大，但對其認識呈現兩極化，一些人把它視作賦能（empower）工具，百求必應。無需多少時日，與互聯網聯結實時查詢，就成了webchatGPT，與翻譯軟件結合遍訪人類所有的知識庫，就成了globalchatGPT。也有一些人認為它是黑箱，不透明，缺少反思和批判能力，拉低我們的道德水平。其實，一個終極之問是：GPT和AIGC是人類的自我賦能還自我罷黜（dethrone）？人自詡為萬物之靈，是天地之間唯一的有意識的動物，是能説話、有思維和推理能力的動物。如果AI有了類人式意識，又沒有人在記憶和耐力上的限制，它是否會把人從王座上推下去，自己登上王位？ 

我的核心觀點是，GPT成功地使人工智能自然語言化，為人類創造了知識生產和運用的母體和平台，有可能改變文明的底層邏輯。人類的文明是以智人大腦為基礎的自然語言文明，以人工智能為基礎的人機一體化的新文明到底是賜福還是詛咒，是我們需要回答的“終極之問”。

以智人大腦為基礎的自然語言文明

GPT是大型自然語言AI對話程序。之所以引起轟動，緣於其技術的優點。概括起來，它有三個方面優點：通用性、生成性、增強性。這些特徵緣於AI的自然語言處理能力和大數據模型的結合。茲事體大，它意味着知識的獲取、創造和運用的母體或平台的大遷移。

人工智能革命出現之前，科學技術已取得了一系列重大的突破和成就。一方面，人類已能上天入地，現代交通工具把全球聯繫在一起，不僅創造了地球文明（global civilization），如果火星移民計劃實現，還會出現星球文明。這是人類在超距文明上取得的成就。另一方面，現代物理學、化學和生物學已進入到物質的內部，深入到感官無法感知到的細胞核、原子、分子層面，有了改造物質微觀結構的能力，這些都是人類在微距文明層面的成就。然而，在人工智能取得決定性突破之前，人的智能、意識、思維和理性仍然是技術的禁區，是“化外之地”。在根本意義上，超距文明和微距文明影響的還是人類生活的環境，還沒有影響到人之為人的特徵，即人的意識和思維。GPT的決定性意義正在於它突破了禁區，進入到人性的幽暗之地。如果説，以智人的大腦結構和自然語言相結合為基礎的人類文明稱作人類紀文明，GPT以及AIGC的出現則可稱為後人類或“後人類紀”文明。對這一次文明基礎的大挪移的意義和重要性的反思，需要大尺度的視野。對此，我們不妨從《聖經》的巴比塔(The Tower of Babel)神話入手。故事的梗概如下：

人類祖先説着同樣的語言，他們東遷來到示拿這個地方，遇到一片平原，決定在那裏住下。有一天，他們彼此商量，決定建築一座城和一座塔。建造一座塔，一座通天塔，以便傳揚他們的名。建造一座城，以便聚攏他們的人。耶和華降臨，看到世人所建造的城和塔，感到受到冒犯。耶和華説：“看哪，他們成為一樣的人民，都是一樣的言語，如今去做起這事來，以後他們所要做的事情，就沒有不成就的了，我們下去在那裏變亂他們的口音，使他們的言語彼此不通。”由於上帝搞亂了人類祖先的語言，他們爭論不休，於是造塔計劃失敗。“巴比”（Babel）意為“變亂”，故事的核心是，上帝通過變亂人的語言挫敗了他們的野心。巴比塔計劃失敗後，人類分散到全球各地，説着不同的語言，於是有了人類文明的多樣性。

人類文明總是懸於天堂和地獄之間，既不太好，也不太壞。即使到今天也是如此。正如狄更斯在《雙城記》中所説：

這是一個最好的時代，這是一個最壞的時代；這是一個智慧的年代，這是一個愚蠢的年代；這是一個光明的季節，這是一個黑暗的季節；這是希望之春，這是失望之冬；人們面前應有盡有，人們面前一無所有；人們正踏上天堂之路，人們正走向地獄之門。

為什麼人類懸於天堂和地獄的中間？我們還需補充創世記神話。上帝在創造了天上和地上的一切以後，到第六日，上帝説：“我們要照着我們的形象，按照我們的樣式造人，使他們管理海里的魚、空中的鳥、地上的牲畜和全地，並地上爬行的一切昆蟲。”也就是説，上帝賦予人以萬物之靈的地位。《聖經》的神話有深刻的寓意。上帝按照自己的形象創造了人，賦予人以萬物之靈的地位，讓他具有意識能力，從而能夠創造文明。同時又通過把人類祖先逐出伊甸園和變亂他們的語言來限制其野心。生活在地球上的人，説着不同的語言，分散地生活在各地，既為人類文明創造了條件，也限制了它的發展。簡單地説，自然人的心智結構和自然語言的交往手段兩者結合構成人類紀文明的母體。迄今為目，人類的一切文明和技術成就都是在這個平台上動作的，也是在這個母體中生成出來的。就此而言，人類文明是上帝賜福和上帝詛咒的雙重作用約束下形成的。

人類文明的多樣性緣於自然語言的多樣性。自然語言的多樣化對人類文明的意義是雙重的。一方面，自然語言的多樣性造成了種族、宗教和文化之間的隔閡、分裂和矛盾，阻止了人類團結和修建通天塔願望的實現，這是自然語言之“咒”（Curse）。另一方面，人的心智和通過自然語言相互理解和交流的能力，又給人類創造文明提供了足夠的空間。讓他們對內交流，建立家庭、民族和國家，創造知識和文化；對外交流，相互學習借鑑，維繫某種人類文明秩序，這可稱為自然語言的“賜福”（Bless)。

人類文明史有多次大轉型，從野蠻時代到農業文明，從農業文明到工業文明，從工業文明到後工業文明，每一次文明的成就都是禍福相依的，既是對人的賦能，也原有人類活動及其形式的重組，其中不可避免地在人際間重新分配收益和代價。就此而言，GPT與以往的文明變遷沒有太多區別。然而，GPT還是有它的不同之處。作為自然語言的人機對話平台，還突破了智人大腦的生理限制，突破了自然語言的技術限制。這件事意味深長，如果GPT和AI的發展為我們拆除了上帝為人類文明設定的框架，在人類文明的底層邏輯上帶來了根本性的變化，那麼，它們的出現確實意味着人類文明史的奇點。巴比塔的倒塌意味着以智人大腦為基礎的自然語言文明的到來，GPT的出現意味着以AI為基礎的後人類文明時代的到來？希望之所在，也是恐懼之所在。

自然語言AI大模型意味着什麼？

“語言是存在的家”（海德格爾語），人是語言的動物，語言的限度就是思想的限度。然而，自從現代科學誕生以來，特別是現代哲學的語言學轉向以來，在語言上存在着兩種範式的競爭。一種是自然語言，一種是人工語言。自然語言是文化的語言，人工語言是科學的語言。自然語言是是人類文化的家園，每一個宗教、族羣、文化共同體都希望有自己的語言，即使沒有也要創造出來。自然語言與人工語言各有其偏愛的領地。自然語言的獨特領地是人文科學，它為人的本真性情感的表達提供了條件，也為民族認同建構提供了神聖象徵。每一種自然語言在本民族人看來都是美的，在19世紀民族國家理念中，“一個民族”“一種宗教”“一種語言”被認為是從族羣社會進入到民族國家行列的條件。然而，自然語言有其優點，也有其缺點，它承載着人類生活世界的一切背景知識，是人與人之間交往的中介，它的生動性、多義性為文學和藝術提供了得天獨厚的條件。但是，自然語言的歧義性和含義的模糊性也給知識的表達和傳播帶來的消極影響。正因為如此，一些人仍夢想巴比塔之前的同一語言，用一種語言——如世界語——取代五花八門的自然語言。在理性主義和科學主義傳統中，這一隱秘願望構成許多人的思想動機。

古希臘就流傳着這樣的説法：上帝是一位幾何學家，世界萬物之美在於它符合幾何學的比例和結構。除幾何學外，數學也是人類知識的典範。畢達哥拉斯説：“數學支配着宇宙”。近代許多哲學家把數學和幾何學視為知識的典範，因為在這些知識中，概念是嚴格定義，命題之間有嚴格的邏輯關係。像笛卡爾、萊布尼茨等哲學家都致力於數學的研究，把數學視為窺視上帝秘密的途徑。斯賓諾莎甚至以幾何學公理的方式寫他的《倫理學》。

人工語言傳統雖然很有影響，但長期以來，仍然是自然語言佔據統治地位。在亞里斯多德的三段論和形式邏輯中也運用了符號，但它們僅僅用於表示語言判斷之間的邏輯關係。從萊布尼茨開始，哲學家孜孜以求建立一套人工語言系統，用以表達人的思維和推理，並把算術機器化，然而，這個理想直到符號邏輯和符號數理學的出現才得以實現。即使如此，符號邏輯的運用範圍也是有限的，它始終被限制在語言表達式之間的邏輯關係層面，並沒有進入到思想內容本身。在人工智能取得突破性進展之前，語言的人工智能化陷入這樣一個困境：或者接受一個應用範圍有限的可技術化處理的人工語言系統，或者延續自然語言傳統但放棄人工智能化。GPT的出現打破了這一僵局。它作為自然語言人工智能系統，不僅能夠通用於各種自然語言，而且還具有生成性，能夠生成新的內容。

新一代人工智能，即AIGC的最大特點是它的生成性，它可以根據語言或文本提示生成新的內容，完成文本寫作、繪畫、編程、解碼等工作。談到GPT，許多人都注意到，在巨量“餵食”後，大模型預訓練模型後會“湧現”出神奇的新的能力，能信息搜索、語義理解、問題分析並生成新的內容，而這些本來只有人的思維才具有的能力，且在自然語言的理解和對話中才得到最充分展現的能力。

談到“湧現”，不由得想起海德格爾。他強調，自然語言與其説是交往工具，不如説是存在。真正的思想不是説話者的思想，而是思想通過語言自行“道説”，而自然語言是這種六年升任最切己的表達手段。在某種意義上，海德格爾在這裏闡述的是人類沉浸式思考的經驗：一個人沉浸於思考之中，會文思泉湧。伽達默爾也説：“‘表達’並非主觀選擇的問題，即並非限於事實之後並且藉助於個人思想中的意義被賦予了可傳達性而加以於事實之上的某種東西。不如説它是精神本身的生成，它的‘解釋’。”海德格爾和伽達默爾對存在之思、存在之言的論述，似乎先行地道出了GPT的邏輯：自行思考，自行生成。而GPT的對話之所以具有這樣的特徵，不僅在於它能夠很好地耦合人的自然語言，而且其本身表現為類似於自然語言系統的東西。如果説AI是對人腦的神經網絡的模仿，GPT則是人的自然語言對話系統的模仿：模糊認知、解釋、交互學習等。在此意義上説GPT有了人的意識並不為過。

問題在於，GPT不僅具有類人式意識，而且具有超人式意識。依本人陋見，人類紀文明建立於自然語言與人腦思維之上的，兩者的結合既人類文明提供了空間，也限制它的發展。上帝賦予人以像他一樣思考和語言能力，又在人建造巴比塔時“變亂”人的語言，限制人類的野心，由此開啓了人的理性能力和自然語言相結合的人類紀文明。GPT的出現截斷了人腦機能與自然語言之間的聯繫，自然語言對話平台從人際移到了人機際，甚至會發展到機與機的對話。這是人類文明底層邏輯的重大變化。

無論是GPT（generative pre-transform）還是AIGC（AI generative content）大模型模擬的都是人腦神經網絡。但在超大數據庫（人類知識貯存）與計算機超級算力的加持下，其能力可以遠遠超過人類。正如計算機在計算領域取得的成就一樣，AIGC也會在自然語言的理解、解釋和生成內容方面擁有類似的能力。打個比喻，AI把思考和推理等人類思維活動從自然人的智能平台移到人工智能平台，就像原來在高低不平的泥路上跑的汽車上了高速公路，能力倍增。在其中，無數信息通過無數節點聯結，極速地回答各種問題，完成各種任務。GPT的信息收集和處理能力巨大，被人們譽為“All-knowing Machine”或“全知之神”。

對GPT的近憂遠慮

海德格爾曾區分“怕”與“畏”。“怕”有具體對象和緣由，可計算得失；“畏”則不同，它是對無之畏，是對存在之整體的沉淪的畏，在此，所有存在者被拋出自己的軌道，進入到無根無據的深淵。面對GPT，我們不由地生成複雜的感情，它不僅是“怕”，而且也是“畏”。

在現象層面，每一次技術創新都有複雜的倫理和社會後果。（1）像每一次技術創新和大規模運用一樣，GPT不可避免地在人際間出現收益和代價的再分配，催生一些行業，毀滅一些行業。如果我們承認，人的尊嚴與其勞動中體會到的自主性有關，GPT的出現無疑會對那些剝奪了勞動機會的人的生活造成重大損害。（2）雖然GPT有極大的親民性，小綠框有問必答。但該項技術的可及性有可能造成新的不平等，加深數字鴻溝。（3）與任何節省體力和腦力的技術工具一樣，GPT的使用中會產生依賴性風險，它在教育和學習領域影響尤其顯著。GPT可能提高人的學習效率，人也可能對其依賴而喪失學習動力。（4）GPT是自然語言的人機對話程序，形似人與人的對話，但畢竟不是人與人的對話。如果交往是人與人的關係和社會融合的條件，GPT的出現是否會導致人類逃避其同類，而這種傾向又會對人類文明依賴的各種組織形式——婚姻、家庭、宗教、藝術、民主政治等——產生什麼影響？（5）與以往工業技術引起的盧德式抵抗不同，GPT似乎具有親和性。它對人有求必應，答案不乏個性，表現得就像一個知心朋友。然而，大數據模型訓練出來的回答到底有多少個性？它向人呈現的個性化是否只是一個幻影？諸如此類問題都是現實的，也是需要不同領域的研究者去探討的。

真正引發人們擔憂的是本體論層面的問題：GPT到底是什麼？我們到底能對它做什麼？前者可稱為透明性問題，後者可稱為可控性問題。有不少學者指出，GPT的透明性是一個很大的問題，我知道它輸出什麼，但不知道它的工作原理和機制。雖然有人對AI繪畫神器Stable diffusion的繪畫過程做了還原，即逆向地展示一幅畫如何一步一步退回到最初的指令，從而能夠直觀它的工作。但是，對ChatGPT的對話似乎難以做到這一點。究其原因仍然需回到自然語言問題上。ChatGPT作為大型自然語言對話系統，其涉及的參數和語料庫遠遠超過其他AI項目。談到透明性，在任何時代，完全的透明性都是不存在的。長期以來，自然界對我們就是不透明的充滿奧秘的世界，只是這種不透明在哲學家和詩人眼中是神聖的，而技術的不透明卻是有罪的。收音機發明出來後，海德格爾就對那個小黑盒裏面發出的聲音感到恐懼。因為與風車和水車相比，它是不透明的，我們看不見它如何工作，即使拆開來也是如此。GPT比起收音機來説不知道還要不透明多少倍。甚至開發GPT的OpenAI技術人員也對它的神奇能力感到困惑，更不要説外行人了。在某種意義上，GPT對人類來説就是一個黑箱，所提出的任何問題瞬間都得到回答，且正確率越來越高。這不能不讓人感到困惑：它到底是如何做到？如果我們接受海德格爾對“怕”和“畏”的區分，在GPT黑箱面前，我們感到的是畏，即對未知風險的恐懼。

在本體論層面上一個更大問題是GPT的可控性問題。回到《聖經》神話，上帝雖然通過把人驅出伊甸園和搞亂人的語言而對人的僭越進行了懲罰，但它畢竟賦予人以萬物之靈的地位。人的思維依賴於大腦神經網絡，通過對事物的感知激活大腦中貯存的知識和記憶，通過反思、推理形成自己的判斷和觀念。在這裏，自然語言和符號成為記憶和感知的中介。雖然在波普爾的三個世界理論中，“世界3”即客觀知識被認為具有自己的客觀實在性。一本書的思想就在那裏，不論人是否去讀它。一個理論體系也是如此，數學是人創造的，但數被創造出來之後，就必然有奇數和偶數；無論人們是否認識到，不可能有比2小的偶數，正沒有比1小的奇數一樣。然而，説世界3有自己的生命只能在有限的和隱喻上才有意義。世界3既離不開物理世界1，也離不開心理世界2，離開了前者，它無法對象化，離開了後者它無活被激活。世界3是靜止的世界，它不能生成新的內容。GPT則不同，它有自己的記憶，其記憶體即數據庫可對電子數據信息一網打盡，它有自己的“大腦”，即神經網絡AI程序。以後，通過電子感應器，它可以感知事物，通過機器人，它可以直接做事情。

今天，GPT還依賴於人的發問，但我們完全可以想象一個無人的AI世界。黑格爾《精神現象學》有一個著名命題：“實體即主體”。他把精神視為比人更高的主體，通過自身運動創造世界，通過自我反思認識自己。然而，黑格爾的“絕對精神”與波普爾的“世界3”一樣，它們的自主性在某種意義上是還是擬人化的，是把主體的特徵賦予給了某個實體性的存在，它們並非是真正的主體。現在的問題是，GPT是實體還是主體？按照通常的理解，GPT無論如何神奇，歸根到底它是一個智能系統，是物，是實體。但是，如果GPT不僅具有了人的意識和思維能力，而且在回事迭代進化中獲得越來越強的能力，不僅能為人所為，而且能為所不能為，我們還糾纏於它是否有意識、是否是主體之類問題，就失去了意義。

對人類文明來説，GPT或AIGC的真正挑戰是：我們是否創造出了一個能夠徹底逃逸人的控制的物，無論我們是把它稱為人工理智還是超級智能。如果是後者，AIGC將導致人類王位的自我廢黜，它的出現將不是上帝的賜福，而不是上帝的詛咒。阿多諾《否定辯證法》開篇曾説：一度似乎過時的哲學，由於錯過了它的實現時機而得以保留下來。同樣，一度過時的全知全能的理想因沒有實現，人類才保存下來。今天面臨的悖論是，也許GPT可以實現全知全能，成為“通天塔”，但它的成功會是人類的成功嗎？GPT是人類新文明的開端還是人類文明終結的開始？但願這不是在杞人憂天。