心智觀察所：獨家對話|謝耘：AI仍陷“前科學”困局，AGI未來何去何從？-心智觀察所、謝耘

【對話/ 觀察者網 心智觀察所】

人工智能技術狂飆突進，正以前所未有的速度重塑千行百業。然而，光環之下暗流湧動——深度學習依賴的“暴力計算”能否突破統計侷限？通用人工智能（AGI）是觸手可及的未來，還是科學幻想？

值此產業躁動與理性思辨交織之際，【心智觀察所】獨家對話東方通科技股份有限公司首席科學家謝耘，就AI技術狂奔與理論認知等一系列問題做了深入探討。

心智觀察所：AI產業和相關技術演進是業界持續關注的熱點，您對目前AI的基本現實有哪些判斷？

**謝耘：**AI迄今依然處於“前科學”狀態，其科學理論或稱智能科學理論至今沒有出現，只有一些零碎的認識。人類從神經生理學和心理學兩個角度研究了100年左右，前者是從低向上、後者是從外向內試圖解開人類意識/智能之謎，但一直沒有能夠實現突破。所以人工智能迄今為止依然是一門沒有科學理論支撐的、基於經驗的、解決具體問題的實用技術，屬於現代工匠技藝。

有人認為，這樣做下去智能科學原理一定就會出現。但是從歷史上看，科學的出現並不是工匠技藝不斷積累的一個必然結果。否則中國就不會錯過人類科技發展的機遇了。

人工智能在70年的發展歷程中，嘗試過包括邏輯推理在內的多種方法，效果都不令人滿意：通用性差，難以應對複雜情況。2010年隨着計算機暴力計算能力的出現，深度學習的統計方法相比其它方法而言，成為了能夠適用於更多類型問題的方法，成為當下人工智能的中流砥柱。但統計方法受制於統計樣本自身藴含的信息，無法超越這些信息所能反映的問題範圍。

心智觀察所：有關AGI（通用人工智能）的範式、路徑等問題，業界多有討論且聚訟不休，您對通往AGI之路的方法論怎麼看？

**謝耘：**AGI包含兩方面的含義。第一種含義是，找到一個通用的人工智能方法而不是應用系統，通過對其進行適當的參數設置（學習），構造出不同的應用系統，可以用它們分別去解決幾乎所有類型的人工智能問題；第二種含義是，構造出一個應用系統，它是“萬能”，可以解決幾乎所有類型的人工智能問題。

再談談通用人工智能的方法。因為沒有科學理論，所以從理論上無法推斷出是否存在這樣的方法；從實踐上看，目前所有的具體方法，包括基於深度學習的大語言模型，都不具有這樣的通用能力。是否把不同的方法集成在一起就能夠形成這樣一種“萬能”的方法，因為沒有理論支撐，只能依靠未來的實踐來回答這個問題。而人類過去的實踐沒有這樣的先例——高精尖的技術，都是基於科學理論發展出來的，靠工匠探索可以形成橫向的百花齊放，但是縱向深入的程度有限。

通用人工智能應用系統這個目標從現有的基礎來看還無法實現。就人腦來説，人腦在一般的意義上可以説是一個通用的智能“方法”或“平台”，可以通過學習訓練解決各種智能活動。但是從具體的一個人來説，也就是當一個大腦成為了一個實際的“應用系統後”，它也不是通用萬能的，而是每一個人都有自己的側重。

由於上述的情況，所以AGI，特別是通用人工智能方法，現階段作為科學探索比較合適，作為產業應用來開發，還缺少基本的前提條件。

心智觀察所：AI可以賦能千行白業，而且下游應用領域也極為廣闊，那麼人工智能的技術方法在未來是“一”還是“多”？

**謝耘：**從圖靈提出的人工智能圖靈測試開始，人工智能領域中就參雜了大量的不滿足科學規範的各種説法。圖靈測試就只是一種主觀評價方法，並不是滿足科學客觀性要求的科學性測試方法。它埋下了把主觀想象等誤當作“科學”要素植入到人工智能中的種子。今天，這個領域混雜了更多的商業炒作內容，卻都以“科學”的面目出現。

從技術發展而非謀取商業利益的角度來看，還是應該大力提倡科學理性。對於人工智能的現狀與未來，還是應該基於科學的規範和態度來做分析預測。這不是樂觀與悲觀、鼓勵與打擊的問題，而是實事求是的問題。失去基本的科學理性，這個領域的發展就會偏離健康的道路而遭遇許多不必要的曲折和代價。不久前的區塊鏈是有前車之鑑的。

由於AGI應用系統的開發還缺少基本的前提基礎，所以面向大眾服務的人工智能系統，應該以各個具體領域應用為目標。比如人工智能的法律服務系統、健康服務系統、旅遊服務系統、歷史知識服務系統等等。國家應該制定相應的領域服務系統的技術與功能標準，對其進行合理的管理，反對做所謂的“無所不知”的應用。

這不是限制人工智能發展的自由，而恰恰會促進這個領域的百花齊放，讓更多的企業參與到不同領域的應用中來，發揮各自的優勢，開發適用於不同領域的人工智能技術，而不是由一個技術與少數巨頭獨霸天下。

聚焦於具體的領域，系統提供的服務質量才會有保證，這也會給用户提供更好的服務。高質量的服務，對於推動社會的發展也更加正面。這種方式可以有效地消除貌似“萬能”的系統向社會傾吐不可預測的信息垃圾的情況。

配合聚焦各個領域服務的目標，從政策和輿論導向上，應該大力鼓勵百花齊放的發展，而不是萬眾一心擠上一條道路。工匠技藝的特點，決定了人工智能的技術方法在可以預見的未來，必然是發散性百花齊放而不是在科學規律指導下的萬宗歸一。而且很多突破可能都是主流之外的。

這次人工智能的復興，就是被主流冷落多年的人工神經網絡技術在暴力計算的加持下重生為“深度學習”而帶來的。目前社會上強大的跟風的習氣，是不利於這樣一個工匠技藝性領域的健康發展的。

心智觀察所：在人工智能技術迅速發展的當下，您認為AI在替代人類工作崗位及潛在控制風險方面面臨哪些關鍵挑戰？我們應如何平衡技術創新與倫理安全，以確保AI的發展既能提升社會效率，又不逾越人類主導的決策邊界？

**謝耘：**技術每次的進步，都是在某些方面替代人類，提升生產效率。也幾乎每一次都引發“失業”的議論與焦慮。而事實上，每一次的進步，每一次對人類的替代，最後導致的是平均工作時間與強度的降低，及與之相伴的生活質量水平的提升。不斷提升的社會福利正是這種進步的一個結果。當然這需要社會管理方式相應的改變的配合。

談到有關AI對人類的控制問題，我認為超級人工智能一直是科幻作品的一個重要的主題，現在也成為了社會現實的焦慮。當人類對於我們自己的智能都還沒有形成一個科學的認識的時候，談論超級智能還為時尚早。就像我們不會將汽車意外自己發動行走而造成傷亡損失解釋為汽車自己有意為之而產生恐懼那個樣，我們也不應該將人工智能系統的某些意外行為解釋為它有了自我意識，人類有被其控制的危險。

我們沒有必要在人類還不知道如何飛上天的時候，就下功夫去研究人類如果有一天可以飛上天之後，會遇到什麼樣的問題。這樣的研究既是杞人憂天，產出的結果可能也與飛機出現後的真實情況不大相干。

技術的發展對於人類的挑戰往往是那些隱性的作用。工業發展對環境的影響就是這方面的一個例子。人工智能對人類的一個重要的挑戰可能也是它的一個隱性的作用：導致人類智力的退化。就這個問題我去年已經寫了一篇文章——在2024年7月2日觀網“科工力量”上以“‘暴力計算’讓‘外意識’爆發後，我們是否還將是‘人’？”為題發表。

本文系觀察者網獨家稿件，文章內容純屬作者個人觀點，不代表平台觀點，未經授權，不得轉載，否則將追究法律責任。關注觀察者網微信guanchacn，每日閲讀趣味文章。