汪行福｜賜福還是詛咒：ChatGPT的終極之問_風聞

汪行福｜復旦大學當代國外馬克思主義研究中心研究員、

哲學學院教授

本文原載《探索與爭鳴》2023年第5期

原題《後人類紀文明的到來與ChatGPT的終極之問》

非經註明，文中圖片均來自網絡

汪行福教授

ChatGPT（以下簡稱GPT）對人類來説，到底意味着什麼？比爾·蓋茨在自己的博客中寫道，這是他人生中第二次被科技真正震撼到；基辛格認為這是繼印刷術發明以來人類最為重要的技術發明。

GPT的潛能巨大，將在極大範圍、極深程度上影響到人類當下和未來的生活，其意義可放在上下五千年文明大背景下討論。GPT能量巨大，我們對它的認識已呈現出兩極化傾向。一些人把它視為賦能（empower）工具，“百”求必應。可以設想，如果它與互聯網連接，實現實時查詢，就成了web版的GPT，利用自帶的翻譯功能，就可遍訪人類所有的知識庫，成為全球版的GPT。這些不是想象，而是當下現實，是正在發生的事情。也有一些人認為GPT存在着致命的缺陷，就像一個黑箱，不透明，缺少反思和批判能力，與人的學習能力相差甚遠，更為嚴重的是，它經常產生幻覺(illusion)和偏見（bias）。**正反兩方面的觀察和評估給我們提出一個嚴肅的問題：GPT是對人類的賦能還是人類自我罷黜（dethrone）的陷阱？**人自詡為萬物之靈，是天地之間唯一的有意識的動物，是能説話、有思維和推理能力的動物。如果AI有了類人式意識，又沒有人在記憶和耐力上的生理限制，它是否會把人從“王座”上推下去，自己登上“王位”？

GPT無疑是一個偉大的技術突破，它成功地使人工智能自然語言化，為人類創造了知識生產和運用的母體平台，這有可能徹底地改變人類文明的底層邏輯。人類的文明是以智人大腦為基礎的自然語言文明。以人工智能為基礎的人機一體化完全顛覆了以往人類技術發明的邏輯，其侵入人類智能領域，打破人類紀文明的邊界。GPT到底是對人類的賜福還是詛咒？這是我們需要面對的“終極之問”。

以智人大腦為基礎的自然語言文明

GPT是大型自然語言AI對話程序。之所以引起轟動，緣於其出色的技術優勢。概括起來，即通用性、生成性和增強性。這些特點緣於AI的自然語言處理能力和大數據模型的結合。這一技術革新意味着知識的獲取、創造和運用的母體或平台的大遷移。

人工智能革命出現之前，科學技術已取得了一系列重大的突破和成就。一方面，人類能上天入地，現代交通工具把全球聯繫在一起，不僅創造了地球文明（global civilization），如果火星移民計劃實現，還會出現星球文明（planet civilization），這是人類在超距文明尺度上取得的成就；另一方面，現代物理學、化學和生物學研究已進入物質的內部，深入到感覺之下的細胞核、原子、分子層面，有了改造物質微觀結構的能力，這些是人類在微距文明尺度上的成就。然而，在人工智能取得決定性突破之前，人的智能、意識、思維和理性仍然是技術的禁區，是“化外之地”。**在根本意義上，超距文明和微距文明影響的是人類生活的環境，沒有影響到人之為人的特徵，即人的意識和思維這一核心領域。GPT的決定性意義正在於它突破了這一禁區。**如果將以智人的大腦結構和自然語言相結合為基礎的人類文明稱作人類紀文明，GPT以及人工智能生成內容（aritificial intelligence generated content，AIGC）技術出現後的文明則可稱為後人類或後人類紀文明。

自然語言AI大模型意味着什麼

**人是語言的動物，語言的限度就是思想的限度。然而，自從現代科學誕生以來，特別是現代哲學的語言學轉向以來，在語言上存在着兩種範式的競爭，一種是自然語言，一種是人工語言。自然語言是文化的語言，人工語言是科學的語言。**自然語言與人工語言各有其偏愛的領地。自然語言的獨特領地是人文科學，它為人的豐富思想和情感表達提供了條件，也為民族認同建構提供了神聖的象徵。然而，自然語言有其優點，也有其缺點，它承載着人類生活世界的背景知識，是人與人交往的中介，它的生動性、多義性為文學和藝術提供了得天獨厚的條件。但是，自然語言的歧義性和含義的模糊性也給知識的表達和傳播帶來了消極影響。正因為如此，一些人仍夢想巴別塔之前的同一語言，用一種世界語取代五花八門的自然語言。

人工語言傳統雖然很有影響力，但在人類生活中仍然是自然語言佔統治地位。亞里士多德的三段論和形式邏輯中也運用了符號，但它們僅僅用於表示判斷之間的邏輯關係。從萊布尼茨開始，哲學家們就孜孜以求建立一套人工語言系統，用以表達人的思維和推理，並把算術機器化。人工語言的理想直到符號邏輯和符號數理學的出現才部分得以實現，即使如此，符號邏輯的運用範圍也是有限的，它始終被限制在語言表達式之間的邏輯關係層面，並沒有進入思想內容本身。在人工智能取得突破性進展之前，語言的人工智能化陷入這樣的困境：或者接受一個應用範圍有限的可技術化處理的人工語言系統，或者延續自然語言傳統但放棄對其進行人工智能化。GPT的出現打破了這一僵局。作為自然語言人工智能系統，它不僅通用於各種自然語言，而且具有自然語言的生成性和對話性。

GPT最大的特點是其生成性。它可以根據語言或文本提示生成新的內容，完成文本寫作、繪畫、編程、解碼等任務。在受到大量的“餵食”和一定時間的訓練後，大模型會“湧現”出各種神奇的能力，如信息搜索、歷史記憶、上下文理解、推理能力、與人流暢對話等。在此之前，這些能力被認為只有人才具有，且只能通過自然語言充分實現。**AI大模型的能力湧現引起了廣泛關注。**能力湧現是指在無監督情況下擁有理解、對話、創作和處理複雜問題的能力。雖然我們已經有一些關於AI能力湧現的技術條件以及大模型參數與能力湧現之間變化軌跡的經驗性結論，例如能力湧現需要多少參數和訓練量，參數的增加與能力湧現之間的非線性和倒U形軌跡等，但我們對其產生機理所知甚少。因此，AI專家表示：“我們對GPT-4的研究完全是基於現象學的，我們關注的是GPT-4能夠做到這些令人驚訝的事情，但我們並不知道它是如何變得如此智能的。”

對於“湧現”現象的思考在哲學中並不陌生。海德格爾認為，運用語言的思想活動與其説是受人的意識的控制，不如説是語言本身的自發運動。真正的思想不是説話者的思想，而是思想通過語言自行“道説”，而自然語言正是思想最貼近的表達方式。真正的文學創作不是“為賦新詞強説愁”，而是讓自己沉浸於思想中，讓思想自由表達。一個人沉浸於思考之中，會文思泉湧。對此，伽達默爾説：“‘表達’並非主觀選擇的問題，即並非限於事實之後，並且藉助於個人思想中的意義被賦予了可傳達性而加於事實之上的某種東西。”**海德格爾、伽達默爾等人對思想與語言關係的論述似乎先行地道出了GPT的邏輯，即自行思考、自行生成和自我表達。**實際上，與GPT的對話之所以具有這樣的特徵，不僅在於它能夠很好地模擬人的自然語言，而且在於其本身表現出了類似於自然語言系統的特性。**如果説AI是對人腦神經網絡的模仿，那麼GPT則是對人的自然語言對話系統的模仿，如模糊認知、解釋、交互學習等。**因此，從現象意義上來説GPT具有類人式意識並不為過。

問題在於，GPT不僅具有類人式意識，而且具有超人式意識。依筆者所見，人類文明建立在自然語言和人腦思維之上，兩者的結合既提供了人類文明發展的空間，也限制了它的發展。GPT的出現截斷了人腦機能和自然語言之間的聯繫，自然語言對話平台從人際間轉移到了人機之間，甚至未來可能會發展到機器之間的對話。這是人類文明底層邏輯的重大變化。在超大型數據庫（人類知識儲存）和計算機超級算力（思維力）的加持下，語言生成模型的能力可以遠遠超過人類。就像計算機在計算領域取得的成就一樣，AIGC也可能在自然語言的理解、解釋和生成方面擁有類似的能力。例如，AI將人類的思考和推理等思維活動從自然人的智能平台轉移到了人工智能平台，就像汽車從崎嶇不平的土路走上了高速公路。在這個過程中，無數信息通過無數節點迅速連接，瞬間完成各種任務。我們不知道它是如何做到的，但它給人們呈現出一個“all-knowing machine”或“全知之神”的形象。

對GPT的近憂遠慮

海德格爾曾區分“怕”與“畏”，認為“怕”有具體對象和緣由，可計算得失；“畏”則不同，它是對無之畏，是對存在之整體的沉淪的畏，在此，所有存在者被拋出自己的軌道，進入無根無據的深淵。面對GPT，我們不由地生成複雜的感情，它不僅是“怕”，而且也是“畏”。

在現象層面，每一次技術創新都有複雜的倫理和社會後果。（1）像每一次技術創新和大規模運用一樣，GPT不可避免地使人際間出現收益和代價的再分配，催生一些行業，毀滅一些行業。如果我們承認，人的尊嚴與其勞動中體會到的自主性有關，GPT的出現無疑會對那些被剝奪了勞動機會的人的生活造成重大損害。（2）雖然GPT有問必答，有極強的親民性，但是這不等於技術的可及性，其有可能造成新的不平等，加深數字鴻溝。（3）與任何節省體力和腦力的技術工具一樣，GPT的使用中會產生依賴性風險，這在教育和學習領域影響尤為顯著。GPT可能提高人的學習效率，也可能使人因對其依賴而喪失學習動力。（4）GPT是自然語言的人機對話程序，形似人與人的對話，但畢竟不是人與人的對話。如果交往是人與人的關係和社會融合的條件，GPT的出現可能會導致人類出現逃避其同類的傾向，強化人的孤獨感，影響到以交往為基礎的人類文明的各種組織形式，如婚姻、家庭、宗教、民主政治等。（5）GPT表面上具有親和性，對人有求必應，其給出的回答也不乏個性，表現得就像一個知心朋友，然而大數據模型訓練出來的回答到底有多少個性？它向人呈現的個性化是否只是一個幻影？諸如此類問題都是現實的，也是需要不同領域的研究者去探討的。

**真正引發人們擔憂的是本體論層面的問題：GPT到底是什麼？我們到底能對它做什麼？前者可稱為透明性問題，後者可稱為可控性問題。**在任何時代，完全的透明性都是不存在的。長期以來，自然界對我們就是不透明的、充滿奧秘的世界，只是這種不透明在哲學家和詩人眼中是神聖的，而技術的不透明卻是有罪的。收音機發明出來後，海德格爾就對那個小黑盒裏面發出的聲音感到恐懼。因為與風車和水車相比，收音機是“不透明”的，我們看不見它如何工作，即使拆開來也是如此。GPT更是如此，甚至AI技術人員也會對它的神奇能力感到困惑，更不要説外行人了。在某種意義上，GPT就是一個黑箱，它對人類所提出的任何問題都能瞬間給出回答，且正確率越來越高。這不能不讓人感到困惑：它到底是如何做到的？按照海德格爾對“怕”和“畏”的區分，在GPT黑箱面前我們感到的應當是畏，即對莫名的風險的恐懼。

在本體論層面上一個更大的問題是GPT的可控性問題。人的思維依賴於大腦神經網絡，通過感知激活大腦中存儲的知識和記憶，通過反思、推理形成自己的判斷和觀念。在這裏，自然語言和符號成為記憶和感知的中介，而GPT則不同，它有自己的記憶，其記憶體即數據庫可對電子數據信息一網打盡，它有自己的“大腦”，即神經網絡AI程序，它能夠生成新的知識。將來，它通過電子感應器還可以感知事物，與機器人相結合直接作用於物理世界。

今天，GPT仍然需要依賴人的“提詞”（prompt），但我們可以想象一個無人的AI世界。黑格爾在《精神現象學》中有一個著名的命題——“實體即主體”，他把精神視為比人更高的主體，它不僅通過自身運動創造世界，而且通過自我反思認識自己。然而，黑格爾的“絕對精神”與波普爾的“世界3”一樣，它們的自主性在某種意義上仍然是擬人化的，是人類生命的投射。按通常的理解，無論它如何神奇，歸根到底GPT是一個智能系統，是物，是實體。但是，如果GPT不僅具有了人的意識和思維能力的表現，而且在加速迭代中獲得遠超於人的能力，不僅能為人所為，而且能為人所不能為，我們還糾纏於它是否有意識、是否是主體就失去了意義。

**對人類文明來説，GPT的真正挑戰在於我們是否創造出了一個能夠徹底逃逸人的控制的物，無論我們把它稱為人工理智還是超級智能。**如果是後者，它將導致人類“王位”的廢黜。阿多諾在《否定辯證法》開篇曾指出：一度似乎過時的哲學由於錯過其實現時機而得以保留下來。同樣，一度過時的全知全能的理想因沒有實現，人類才將之保存下來。今天，我們面臨的悖論是，也許GPT正在實現人類的全知全能幻想，成為新的“通天塔”，但它的成功會是人類的成功嗎？GPT是人類新文明的開端，還是人類文明終結的開始？

米歇爾·福柯在《詞與物》（Les mots et les choses）一書的最後寫道：“人將被抹去，如同大海邊沙地上的一張臉。”

如何避免GPT對文明的反噬

科幻小説家阿西莫夫（Issac Asimov）於1942年提出了著名的機器人三定律：一是機器人不得傷害人類，或者目睹人類遭受危險而袖手旁觀；二是機器人必須服從人給予它的命令；三是在不違背第一、第二定律的情況下，機器人要盡力保護自己。GPT是否傷害人類取決於第二定律。包括OpenAI團隊在內的專家都沒有對它的運行機制，特別是其神奇的能力湧現現象給出解釋，自然也就無法保證它百分之百執行人類的命令。應對GPT這一既具有強大賦能能力又潛藏巨大風險的技術也許沒有萬全之策，但並不意味着無需對此進行思考。

當前，各“大廠”紛紛建立自己的大模型，呈現出不可阻擋的“進步”特徵。這樣的情況下，如何思考人類孜孜以求的進步？**是否在任何情況下都要擁抱進步？本雅明的思考也許有一定的借鑑意義。他在《歷史哲學提綱》中藉助保羅·克利的畫作《新天使》對盲目追求進步的衝動進行了批判。在本雅明看來，人類的救贖需要對過去的沉思，特別是對過去災難的沉思。他把這一救贖的歷史意識擬人化地描述為“歷史天使”。**歷史天使想停下腳步喚醒死者，修補破碎的世界，“可是從天堂吹來了一陣風暴，它猛烈地吹擊着天使的翅膀，以致他再也無法把它們收攏。這風暴無可置疑地把天使刮向他揹着的未來……這場風暴就是我們所稱的進步”。當然，本雅明觀點難以直接運用於GPT，但面對當前人工智能“競賽”，本雅明式批判對我們不無啓示。從時間結構上看，進步和災難是非對稱的，進步依賴於時間的連續性，而災難總是不期而遇的，必須在火花碰到炸藥之前將燃燒着的導火線切斷，因為“對於個人，如同羣體蒙受的苦難一樣，只有一個臨界存在，超越了它，‘事情就不會再這樣繼續下去了’，這個臨界點就是毀滅”。今天的GPT是否逼近了這一臨界點我們並不知道，但我們不能失去警惕。

左：保羅·克利《新天使》

右：本雅明

**海德格爾和馬爾庫塞的技術批判也有助於認識GPT的威脅。在他們看來，除了技術濫用和工具理性，技術本身也在對自然和人進行統治。**統治的目的不是後來補充進去的，也不是人從外面強加給它的，而是早就進入了技術的設計之中。海德格爾把技術理解為存在的解蔽，即存在向人類敞開的方式。然而，與藝術等其他敞開形式不同，“在現代技術中起支配作用的解蔽乃是一種促逼（herausfordern），此種促逼向自然提出蠻橫要求，要求自然提供能夠被開採和貯藏的能量”。馬爾庫塞也認為，現代技術不僅是生產工藝學，而且是統治工藝學。就此而言，不僅要批判技術中立化教條，而且在任何重大技術創新的源頭和開始處就必須認清存在何種危險。

技術批判固然重要，但更重要的是在新技術出現時尋找到作出合理判斷和採取行動的機會。在安德魯·芬伯格看來，“技術不是一種天命，而是鬥爭的舞台。技術是社會的戰場，或者用一種更好的隱喻來説，把技術比作一個文明的替代形式相互競爭的‘事態的議會’”。雖然技術發明者可以設定技術的目標和價值標準，但技術使用者和接受者也不完全是待宰的羔羊。底層人民可以在流動的邊緣上與技術發明者和主導者進行纏鬥，改變技術的具體形態和使用方式，實現技術的民主化。技術的民主化簡單地説，就是讓處在邊緣的弱勢羣體和受制者的利益得到體現，使技術的多種潛能得以呈現，讓他們在技術面前有更多的自主性。技術民主化可以以多種方式展開，如不同利益羣體之間的辯論，公眾參與技術設計，對技術進行再發明和改造。技術的衝突實際上是兩種“自主性”的衝突，一邊是技術系統本身的操作自主性，另一邊是技術運用者實現自身自律的操作自主性。現代技術體制的主要缺陷是那些因技術而受到影響的人對設計和運行很少或沒有控制權。提高人類的自主性涉及技術的規劃、建造和控制過程儘可能向那些註定要體驗最終產品和社會後果的人敞開。芬伯格的技術民主化方案對我們思考如何應對GPT有重要的借鑑意義，雖然這一方案需要結合GPT技術的特點和當下社會條件轉譯為合適的鬥爭戰略和策略。

本雅明和芬伯格代表着兩個極端，本雅明為我們提供的是最終決斷，芬伯格提供的是技術鬥爭的日常政治。兩種立場並非決然對立，具體的選擇取決於對事情本身的判斷。