專訪喬姆斯基：深度學習並沒有探尋世界本質_風聞

近日，MIT的 AI 科學家 Lex Fridman 對喬姆斯基進行了專訪，在接受採訪的時候，從外星人談到了語言學，然後談到了深度學習，並探討了人類哲學。他認為深度學習當前都在學習大量的例子，沒有對本質進行探尋。另外，他還認為我們人類的意義由我們自己決定，人類的行動就是人類存在的意義……

整理 | 蔣寶尚

來源｜AI科技評論

喬姆斯基是一位開創性的人物，尤其是他那本《句法結構》被認為是20世紀理論語言學研究上最偉大的貢獻。

不光《句法結構》，還有《現代希伯萊語語素音位學》、《轉換分析》等一系列語言學著作傳達了對多種正規語言的洞見，也對計算機科學產生了重要的影響。

據説，喬姆斯基的語言模式也可從數學的角度來討論，這也引起了數學家，尤其是組合數學家的興趣。

近日，MIT的 AI 科學家 Lex Fridman 對喬姆斯基進行了專訪，在接受採訪的時候，從外星人談到了語言學，然後談到了深度學習，並探討了人類哲學。他認為深度學習當前都在學習大量的例子，沒有對本質進行探尋。另外，他還認為我們人類的意義由我們自己決定，人類的行動就是人類存在的意義……

點擊“聆聽”喬姆斯基專訪

問：如果外星人造訪地球，你認為我們能找到與他們溝通的共同語言麼？

答：是可以的。大約在二三十年前，馬文·明斯基就和他的學生一起做了一個實驗：不加限制條件的運行最簡單的圖靈機，看看會發生什麼？

結果是大多數要麼死機，要麼進入無限循環，只有少數給出了類似算術的東西。所以馬文得出結論：如果高智商的外星人造訪地球， 那麼他們至少會做一些簡單的算術。

實際上，馬文並不知道，自然語言的核心原理是在極限情況產生類似於算術的運算。所以，基於人類語言的核心屬性或者算術的核心屬性可以建立一種普遍共享的交流模式。

問：語言的結構是什麼？語言在我們頭腦中的內部系統與它所表達的外部結構有何不同。

答：這是兩種不同的語言概念，兩個概念是同時存在的。你本身的一些屬性決定了你要説的是英文，而不是其他語言，所以有一個內在的系統，並且是局部性存在於你的大腦中決定了你的表達，和筆記本電腦的內部結構類似，這個系統也屬於大腦中的特定配置。

你也可以用語言外化腦海中的東西，但是我們對語言的使用，大多數數是內在的思考，而我們正在外化的那套東西是一個外部系統。

問：像視覺等基本的東西都是從人類頭腦中湧現的麼？

答：在某種程度上，是由我們的基因決定。基因決定了我們擁有的是哺乳動物而不是昆蟲的視覺系統，基因決定了我們擁有人類的語言能力。

早在幾個世紀前的工業革命時期，就已經有人認為語言是人類認知本質的核心，是思想的源泉，是構建思想和表達思想的方式，並且語言具有基本的創造能力，是自由、獨立、無拘無束…….

確實，語言是我們人類非凡能力的基礎，但這些能力幫助人類取得是一些並不那麼偉大，但同時又有那麼點獨特的成就。

問：思考和推理的能力和語言有很深的聯繫麼？內在的語言系統本質上是內部推理的機制麼？

答：語言肯定是推理的機制，但我們還有更多的科學天賦，沒人知道這個天賦到底是什麼，但是它卻能確定什麼是有意義的，什麼是沒有意義的。我們本身在使用語言，但同時也獲得了超出範圍的理解。

問：您能嘗試定義什麼是極限麼？您認為有可能找到人類認知的極限麼？

答：大多數科學家認為，人類智力原則上可以回答任何問題，但這是一個非常奇怪的信念。我們不是神，所以我們的能力存在範圍和界限。舉個例子，遺傳因素決定了你是一個豐富而複雜的有機體，也讓你擁有了哺乳動物的視覺系統以及手臂，這個遺傳因素規定了人類發展的方向，阻止其他方向的發展，例如，胚胎出來的動物沒有發育成昆蟲。因此在賦予豐富性和複雜性的同時也限制了所能獲得的東西。

假設我們的認知能力是世界的一部分，那麼它們就應該具有相同的屬性，並形成了豐富和複雜結構的內在能力，同時規定了“方向”，所以認知有極限。

舉例來説，在牛頓時代，從伽利略到牛頓，現在科學的發展都基於一個基本的假設：世界，宇宙整體是個機械體。這裏的機械體類似於齒輪、槓槓等概念。

所以，他們認為這個世界只是一個更加複雜一些的機械變體。但是令牛頓苦惱的是，他證明了世界上沒有機器、沒有接觸就可以存在相互作用。

與牛頓同時代的人，如萊布尼茲和惠更斯認為這回到了“神秘主義”，牛頓對此表示同意。事實上牛頓和許多其他科學家一樣，用他的餘生試圖以某種方式繞過它。所以，理論不會產生一個可理解的世界，除非你可以在機器上覆制它，而它又證明了沒有機器。

譯者注：牛頓、惠更斯等人在內都認為超距作用是不可能的。

經過漫長的鬥爭，科學家們花了很長時間接受這個常識，但同時這也意味着他們放棄了對一個可理解的世界的探索。大衞·休謨曾經説過，牛頓通過展示他留給我們的機械哲學、機械科學的不完美來揭開自然界的許多秘密，仍然存在着永遠存在的奧秘，科學只是改變了目標。

科學只是拋棄了謎團，如果不能解決，它會把迷團放在一邊。對於我們而言，我們只是找到了通俗易懂的理論，牛頓的理論是可以理解的。

這一切都表明了人類認知的侷限性，我們尋找可理解的世界的目標，從伽利略到牛頓，都是對事物如何運作的本能構想，都是機械哲學。

這和我們想要一個有規則的幾何圖形的世界一樣，正如笛卡爾指出的那樣，即使世界上沒有三角形的事物，我們也會有三角形的觀念。其實在我們心中，我們只是根據完美的幾何物體強加了一種世界的概念。

問：這樣就給我們暗示了認知的潛在限制麼？

答：個人認為確實如此，但這是一個非常有爭議的觀點，如果你詢問科學家，他們會説不可能，我們什麼都可以理解。

問：已經有公司在做腦機接口，他們想着擴大大腦獲取信息的能力，您認為這會擴展我們的認知能力、語言能力、推理能力麼？

答：可以認為某種意義上的擴展，此類想法在幾千年前就已經存在了。可以通過讀一本書擴展認知能力，所以腦機接口也是擴展。沒有什麼能夠超出我們天生的認知能力，就像不能把哺乳動物的視覺系統變成昆蟲系統一樣。

問：也許你不能直接去想，但是你可以瞭解信息？

答：沒有此類實驗，你可以描繪蜜蜂看到的東西，並用一種形式呈現出來，這樣似乎我們能夠利用這個東西了。事實上，蜜蜂科學家已經這麼做了。

問：您認為我們可以描繪的東西其實比蜜蜂大，然後發現一些東西，讓我們能夠理解量子世界，量子力學麼？

答：你可以，麻省理工的學生能夠學習和理解量子力學。

問：其實他們也不是真的理解。

答：不是物理意義上的，這可能另一個理解有限的領域，其實我們理解這些理論，但它描述的世界沒有任何意義。例如薛定諤的貓，你可以理解這個理論，但正如薛定諤指出那樣，這並不是一個可以理解的世界。愛因斯坦是一個經典的現實主義者，所以他總是懷疑量子理論。

問：你在語言學或認知科學中看到的語言或思想中最迷人的方面是什麼？

答：我認為語言最深層的屬性或者最令人費解的屬性是一種結構性依賴的東西。現在我們對它很瞭解，但之前卻令人費解了很長一段時間。

舉例來説，這傢伙修車小心翼翼地打包工具（the guy who fixed the car carefully packed his tools），這句話其實是令人模稜兩可的，它所表達的意思可以是小心翼翼地修理汽車，也可以是小心地打包他的工具。副詞與哪個動詞相關的（是離最近的還是最遠的）是一個非常令人費解的事情。

問：你認為深度學習，或者基於神經網絡的機器學習的極限是什麼？

答：要給出一個真實的答案，必須要了解發生事情的確切過程，如果這些過程是不透明的，那麼很難清晰地證明可以做什麼，不可以做什麼。

拋開細節不談，深度學習現在正在做的是收集大量的例子，並試圖找到一些模式。這在某些方面可能會很有趣，但我還是想問：AI是工學還是理學？工學的意義是試圖理解關於世界元素的東西，所以他可能需要一個谷歌翻譯器。

它有用麼？非常有用，所以從工學的角度來説，谷歌翻譯器非常有用。但是它有沒有告訴我們關於人類語言的事情？顯然沒有。所以，從一開始它就已經遠離了科學。

谷歌翻譯器是如何工作的呢？它需要一個巨大的文本，例如華爾街日報語料庫，然後其想達到的目標是離語料庫的正確描述越來越近。實際上語料庫中每句話都是一個實驗，你所説的每一句話都是一個實驗，都想弄明白話語是否符合語法？

所以，我們可以問問自己有沒有什麼科學可以採取隨機的實驗，即沒有目的地進行實驗？比如，一名化學博士生，他在寫一篇論文，論文沒有明確的目的，只是將很多東西隨意地混合，然後抱着“也許”的心態，看是否能發現一些東西。

顯然，這名博士生會趕出實驗室。

科學都是試圖找到批判性的實驗，這些實驗可以回答一些理論問題。

谷歌翻譯器一開始就離科學很遠，而且一直如此。針對翻譯器，人們只是問谷歌翻譯器在語料上做得有多好？然後一直忽略了另一個從未提及的問題：在違反語言規則的事情上，它做得有多好？

以前面提到的結構依賴為例子，假設有一種語言，使用線性鄰近作為解釋模型，深度學習也能很容易利用這一點。有了這個模型就意味着學習語言是一件簡單的事情，但從科學的角度來看，這是一個失敗，我們其實並沒有發現本質。

問：神經網絡看起來像是一種近似器，在辯論中迴盪着正確的行為主義。但我認為，當數據集很大時，實際上有一些根本不同的東西。您認為我們可以用神經網絡來學習，表示複雜的語言結構麼？它會以某種方式幫助我們理解科學麼？

答：有可能，可能會發現沒有注意到的模式，比如，有一種語言，使用者都已經消失，只有一些記錄。我們能做的是從記錄中發現一些什麼，如果有説這種語言的人還存活，那麼這個人不比什麼樣的實驗都管用，但是如果沒有人存活，那麼就只能用一些數據做實驗，然後從中學到一些東西。

問：下面討論一些哲學問題。您説過，社會上的邪惡源於制度，而不是我們的本性，大多數人都是善良的，他們有善良的意圖，但也有故意作惡的能力。這取決於他們的成長，取決於他們的環境麼？

答：或許是源於我們的天性，實際上我們做的任何事情都源於我們的本性，制度也是人性表達的一種方式。

但據我們所知，人性可以產生許多不同的制度，但已經發展起來的那些結構與歷史偶然性有關。制度對於我們的本性必不可少，像市場制度這樣的東西只是我們本性的一部分，我們還有其他的一些制度。

古典自由主義的認為，只有自由才是我們的本能，是我們本性的核心，但是他的反面也是我們的本性，人性可以容納這兩種本質。

問：有沒有一些記憶給你帶來了快樂，然後你想再次體驗？

答：當然。墜入愛河，有一些孩子。

問：您在語言學，認知學方面給世界做出了突出的貢獻，重温你當時第一次想到那些概念的時候，會讓你感到興奮麼？

答：興奮。當你發現一些東西的時候，例如對結構依賴性的觀察和解釋，都是令人興奮的。

在20世紀50年代，那時候語言被認為是一種外部的現象，一種思想之外的東西。很明顯，這似乎是不合理的，就像我前面説的，你身上的東西決定了你説的是英文，而不是斯瓦希里語。

但不是真正的發現，而是一種觀察，這有點像17世紀，那時候現代科學剛剛開始，科學家們願意對看似顯而易見的事情感到困惑。

例如，大家都認為一個沉重的鉛球比一個輕的下降得更快，但是伽利略對此表示懷疑，並進行了實驗。

在50年代，語言學也是這樣的，願意對一些從某種角度看似顯而易見的現象感到迷惑不解。例如，結構語言學在當時幾乎是官方的學説，把語言事實當作孤立的單位加以考察。事實上，生物學家對有機體也有類似的觀點，當你觀察每個人的時候是如此的不同，但你又能代表任何人。現在，我們都知道，上述與事實相距甚遠：它們對於生物體，什麼是語言有非常狹隘的限制。

對常識懷疑，這就是“詢問”的本質。

問：對人類來説，最特殊的事情就是死亡率，您是否在考慮死亡率的價值？

答：我自己對於死亡率不怎麼在意，但我擔心如果我的意識消失了，整個宇宙都會消失，那就非常可怕了。

問：你找到這個問題的答案了麼？

答：沒有人能夠找到答案，但我不再被它所困擾。

問：在問一個荒謬的問題，您認為我們存在，我們在地球上生活有什麼意義。

答：人類通過自己的活動已經回答了這個問題，沒有普遍的答案。需要我們自己來確定有什麼意義。

本文轉載自微信公眾號“AI科技評論”。

特 別 提 示

1. 進入『返樸』微信公眾號底部菜單“精品專欄“，可查閲不同主題系列科普文章。

2. 『返樸』提供按月檢索文章功能。關注公眾號，回覆四位數組成的年份+月份，如“1903”，可獲取2019年3月的文章索引，以此類推。