費曼1985年對通用人工智能的思考_風聞
返朴-返朴官方账号-关注返朴（ID：fanpu2019）,阅读更多！2020-11-06 11:11
撰文 | 武文浩
來源：數據實戰派
“您認為，以後有可能出現能像人一樣思考，但在智力上比人類更勝一籌的機器嗎？”
1985 年 9 月 26 日，諾貝爾物理學獎獲得者、著名物理學獎理查德費曼在一次講座上被問及了這樣一道關於人工智能的問題。對於計算機科學領域的從業者來説，這是一個老生常談的問題，相信你也已經在許多地方讀到過，但費曼的闡述仍非常值得一讀。
作為世界上最著名的科學家之一，除了理論物理學方面的工作外，費曼也是量子計算領域的先驅，對於未來智能機器的發展同樣頗有興趣。
本文便梳理了費曼在當時對通用人工智能的看法及思考。雖然這場問答發生於 35 年前，但其中的許多內容，哪怕是在神經網絡深度學習技術取得重大進展、突飛猛進的今天，也同樣經得住細品。
人類的發明並不全依據自然造物
“關於問題的第一個部分 ——‘未來的機器有可能會像人類一樣思考嗎？’，我覺得不會，原因我一會再討論。
然後是問題的第二部分 ——‘未來的機器有可能比人類在智力上更勝一籌嗎？’，我認為要回答這個問題，首先需要進一步定義什麼是智力。如果你想問的是‘以後可能出現比人類更強的象棋 AI 嗎？’，我覺得這是有可能的，沒準我哪天就會搞出一個來。
在國際象棋領域，電腦其實已經要比大多數人都下的要好了， 但我們希望電腦能達到的是，它不應僅僅比大多數人要強，而是要比所有人都強。所以當有電腦能在國際象棋上擊敗我們時，我們常常會想‘打敗我不算什麼，它能打敗國際象棋大師嗎？’。通常認為人類（由於卓越的認知和學習能力）在各個領域都很出色，但如果你想讓電腦也能在各個方面也都很強就很難了。
關於‘未來是否能出現像人一樣思考的機器’，這個問題要從‘我們需要用什麼來解決什麼’出發考慮。
一般來説，我們在解決問題時，會盡量讓現有的工具為了解決某個特定問題發揮最大作用。
舉例子，假如現在需要製造一個能在地面跑得很快的機器，雖然在自然界中，獵豹跑的很快，但如果不是什麼特別崎嶇和奇特的地形的話，我們一般會首選用輪子作為機器與地面接觸的中介，而不是做一個長得像或者原理上與獵豹一樣的機器（儘管這在理論上是可行的）。
再比如，如果想要造一台能在空中長時間遠距離飛行的機器，雖然我們知道鳥是靠煽動翅膀進行飛行，但現實生活中的飛機並不會拍打機翼。
因此，在這裏我想表達的是，人類此前有過讓機器具備某種能力的大量嘗試，而設計出的成品與自然界中存在的例子往往差異很大。對‘像人一樣思考’這個問題來説或許也一樣，機器有可能以後能在計算上比人類更厲害，但它們的計算的方法應該會與人類不同。”
事實上，這段對話發生的時候，也就是 1985 年，人類國際象棋大師的實力仍在電腦之上。之後便是我們所熟知的，在 1996 至 1997 年間，世界國際象棋冠軍 GM Garry Kasparov 在與 IBM 的超級計算機 Deep Blue 進行的六次比賽中落敗，正式宣告了計算機在 “下國際象棋” 上正式超過人類。雖然 GM Garry Kasparov 曾在賽後對比賽結果提出質疑，原因是他認為 IBM 團隊在比賽期間曾插手機器的決策，但，面對類似 “31 比 2” 和 “21 比 2” 的這種分數，無論 IBM 是否插手決策，都已説明機器確實已經在國際象棋上超過人類。而在今天來看，IBM 的 DeepBlue 同樣雖然在下棋上打敗人類，技術實現上確實和人類的智慧大相徑庭。
費曼也曾表示，人類已經有有大量嘗試開發更智能機器的探索，其中一部分工作正是人工智能，但他並不喜歡這個名字。他認為，也許不智能的機器可以比智能的機器做得更好。上述的回答也與他的這個觀點一脈相承。
在特定方面能比人更勝一籌的機器
對於通用人工智能問題的回答還未結束。
稍停頓後，費曼描述了他所設想的，在某些特定方面能做的比人更強、但並不會像人一樣思考” 的機器：
“就比如做計算（算數），電腦能比任何人算得都快，雖然本質上都是對數字進行運算，但沒人會想着讓計算機按人類算數的方式去算數，這樣對計算機來説只會拖後腿。
這裏可以舉一個很簡單的例子，現在給你一串數字，（1， 7， 3， 9，2，6，6，5，8，3，1，7，2，6，3），你能流利的正向將其念出來，但如果要你將其以同樣的速度反向輸出，是不是就稍微較正着唸的時候有些力不從心了？這還是比較簡單的，試想如果這串數字包含成千上萬個數，計算機可以毫不猶豫地對它們進行操作，但如果換人的話，光是記住哪個數是哪個就已經很難了。
所以，人類到底在哪些方面做得比計算機更好，有很多方面。
但最主要的是我們對事物的分別和認知能力，比如如果我們在街上走着走着，很遠就能通過一個人的走路方式或者大致外貌初步判斷那人是否是我們的熟人。而這對於計算機來説幾乎是無法具體細緻地進行模擬的，但計算機也許可以通過獲取和比對大量數據來做到這一點。
比如我們如果想讓一個程序能判斷任意一張圖片是偏亮還是偏暗，那一種可能的做法是給這個程序提供很多明暗對比明顯的圖片，供其進行分析和對比，以使得其能在我們給它任意一張圖片，都能對該圖片的亮度信息進行評估。”
1985年時人工智能現狀
費曼回答的上一部分內容，便提到了從大數據中學習識別特定 pattern 的機器智能。
既然存在這種類型的機器智能，他又嘗試探討了 “訓練集的方差和偏差如何折中” 的問題。這部分回答或許帶有些時代的侷限性。
在機器學習中，偏差較小的數據模型套用在樣本上會產出一個較大的方差，而偏差較大的模型放在樣本集上則會產出一個較小的方差，偏差 - 方差問題實際上代表的是對於機器學習算法之結果的一個優化問題，即我們如何才能最小化算法中的錯誤假設所帶來的偏差，以及如何才能讓模型對足夠小的數據波動敏感。
他説：“難點在於，在實際情況中，我們能提供給計算機的潛在信息是多種多樣的，比如在剛才的那個‘從遠處辨別熟人’的例子中，計算機需要處理的信息可能有燈光條件、距離條件和目標的一些條件，比如辨識目標的傾斜程度，電腦必須能知道如何使用這些信息才行，甚至我們其實目前也講不清楚，究竟人是怎麼通過分析這麼多信息並最終得出結論的。
所以，即使我們未來能造出擁有足夠算力和內存的計算機，可能也不知道該怎麼將這一過程寫為可靠的程式，使計算機能穩定地解決這類問題。目前來看，識別問題還是一個人類能輕易解決，但對計算機來説很難的問題，比如警局或者信息局可能會有比對指紋的專員，如果該專員經驗豐富，那他在仔細觀察指紋樣本後就能對其進行分類，但這對計算來説幾乎是不可能的，原因是我們幾乎無從得知比對專員在分類時都具體使用的是哪些信息，以及在分類時所採用的標準。”
最後，就着 “指紋問題”，費曼對當時人工智能的現狀進行了評價：
“對一般人來説，指紋問題可能聽上去並不是很難，比如現在有兩個指紋，然後我們需要比對這兩個指紋上的血跡是否一樣，但問題遠沒有它看上去那麼簡單。
指紋是不是被污染過，取樣時手指的朝向和壓力是多少，比對兩個基準完全一致的圖片是簡單的，但如果採樣的時候前一個比後一個朝向偏了一點，或者壓力重了一點，或者表面被污染了一點，這些對我們來説可能‘是可被解決的’，但對於計算機來説卻幾乎是不可能的解決的問題，即使真有算法能通過排除各種因素解決問題，其在效率上也將是不切實際的。
所以，目前來看，我個人並不清楚人工智能技術正在往哪個方向發展，但該領域的研究者們無疑正在嘗試解決我們之前所談及的那些，對計算機來説‘棘手’的問題。
我覺得，可能就像我們能輕易分辨和認知事物一樣，計算機擅長的或許是在給定一種模式或模型的情況下不帶疑問地執行它，就比如國際象棋 AI 能比人類下得更好一樣，但人類就很難做到這一點（快速掌握一種特有模式並直接使用）。”
參考資料
[1] https://medium.com/cantors-paradise/richard-feynman-on-artificial-general-intelligence-2c1b9d8aae31
本文經授權轉載自微信公眾號“數據實戰派”。