AI之路：從不會説話的小傻瓜到超越愛因斯坦的存在_風聞

原創：中科院物理所

作者：Tim Urban 

翻譯：xux

審校：Nuor

我們正面臨着一個可以與地球上人類崛起相提並論的鉅變。

—弗諾·文奇（Vernor Vinge）

當你站在這兒（下圖）是什麼感覺？

想必會很緊張吧。可是別忘了你站在時間軸上，是無法看見未來的，所以真實的感覺應該是這樣的：

好像又是平常的一天……

一、遙遠的未來其實近在咫尺

你坐上時光機回到1750年：世界經歷着永久性停電，長距離通訊的方式是喊破喉嚨或者向空中發射炮彈，所有的交通工具都得喂乾草才能跑。

你在那個年代認識了一個哥們兒，請他來參觀我們的世界：閃亮的盒子在高速公路上飛馳，人們隔着整個大洋聊家常，看千里之外的球賽，聽半個世紀前的演奏，大家跟自己手裏成了精的方盒子玩得不亦樂乎，用它造一張地圖，地圖上的一個鬼魅的藍色光點可以隨時顯示出他的位置，還有互聯網、核武器、國際空間站、廣義相對論、大型強子對撞機……

這樣的經歷用“驚訝”或“震驚”已經無法形容，他可能會直接受驚而死。

有意思的是，如果他嫉妒了：“我也想看以前的人來到我們年代的反應。”於是他帶1500年的人來1750年。那人會對很多事情感到震驚，但他不至於死掉。對他來説，這經歷遠不及第一個人那樣瘋狂。

為了讓1750年的人和我們獲得同樣的樂趣，他必須走得更遠，可能一路追溯到公元前一萬兩千年左右，在第一次農業革命產生第一批城市和文明概念之前。一個來自以狩獵和採集為生的人，見識到1750年的建築、船隻和人類豐富的知識，他很可能會一命嗚呼。

如果他死後也嫉妒了，想做同樣的事呢？要想讓公元前一萬兩千年的人有同樣的樂趣，他必須回到十萬年前，找一個從來沒見過火和語言的傢伙。

為了讓一個穿越到未來的人由於震驚而心臟病發作死掉，需要往回走足夠多年，達到“死亡級別的進步”，或者起個名字叫死亡進步單位（Die Progress Unit****，DPU）。

DPU會隨人類的進步變得越來越短，這就是未來學家雷·庫茲韋爾（Ray Kurzweil）所説的人類歷史加速回歸定律。越是發達的社會，進步速度越快，因為它們發展自己的能力更強。

庫茲韋爾認為，到2021年，完成整個20世紀的進步只需7年，而21世紀的進步將是20世紀的1000倍。

如果庫茲韋爾是對的，那麼下一個DPU可能只需十幾年。2050年的世界可能與今天的世界截然不同，我們可能什麼都不認得了。

聽起來似乎難以置信，那是因為我們的思維是線性的，我們常常以為，未來的發展速度會跟過去差不多，豈不知歷史的發展是呈指數型增長的，就像下圖：

圖注：人類進步隨時間的變化。紅線-基於過去發展速度的預測；橙色線-基於當下發展速度的預測；綠線：考慮了指數增長的預測；藍圈-現在

而且，歷史的發展往往是曲折前行的：

圖注：人類進步隨時間的變化。新的技術模式爆發式增長，然後成熟，軌跡像一個“S”

人類社會每次出現一項重要技術，隨之而來的往往是三個發展階段：緩慢增長，劇烈增長和技術成****熟，增長放緩。如果只看離我們非常近的歷史，那麼你所處的“S”曲線的位置也會干擾你的預測。1995 到2007年間，歷史見證了互聯網的爆發，但是從2008年至今，似乎沒那麼多開創性的科技成就。所以不要被迷惑，新的爆發式增長或許正在萌芽。

二、走向超級智能

什麼是人工智能？

我們總是看到人工智能（Artificial Intelligence，AI）這個詞，但好像又不那麼瞭解它。

這是有原因的：1、我們常在電影作品中接觸這個概念，這讓“人工智能”聽起來像一種科幻般的未來預測；2、日常生活中太常見以至於我們沒有意識到它是人工智能；3、人工智能的概念太寬泛了，以至於它的含義變得有些模糊。

關於人工智能，許多學者做出了預言。你可能聽過一個詞叫“奇點”或“科技奇點”。在數學中，奇點用來形容一般的規律不再適用的特殊情況；在物理中，奇點用來描述無窮小，緻密的黑洞，或者在宇宙大爆炸之前我們都被壓縮進的那個點，仍然是來形容通常的規律無法應用的那些情況。1993年，弗諾·文奇提出用“奇點”這個詞形容未來的某個時間點，即技術的智慧超過人類自身智慧的時刻。對他來説，那時的生活會煥然一新，普通的規則不再適用。庫茲韋爾隨後將奇點定義講得含糊了些，他説奇點就是加速回歸定律達到一種極端速度時，即科技以看起來無限快的速度發展時，在那之後我們將活在一個嶄新的世界中。

人工智能是個很廣泛的概念，有很多不同的類型或形式。我們根據人工智能的能力範圍，將其分為三大類：

（1）**弱人工智能(Artificial Narrow Intelligence, ANI)：**也被稱為狹義人工智能，是專攻某一領域的人工智能，比如一種AI能在國際象棋比賽中打敗世界冠軍，但如果你讓它想出一種更好的硬盤數據存儲方案，它只會茫然地看着你。

（2）通用人工智能(Artificial General Intelligence, AGI)：也叫強人工智能，或人類級人工智能，通用人工智能指的是一台像人類一樣擁有全面智能的計算機，人類能解決的智力問題他都能解決。創建通用人工智能比創建弱人工智能難多了，現在我們還沒做到。研究者將智力描述為“一種非常通用的思考能力，包括但不限於推理、計劃、解決問題、抽象思考、理解複雜概念、快速學習和從經驗中學習的能力。” 通用人工智能做這些事時能像你一樣輕鬆。

（3）**超級人工智能(Artificial Superintelligence, ASI)：**牛津大學哲學家、人工智能思想家尼克·博斯特羅姆（Nick

Bostrom）將超級智能定義為“在幾乎所有領域，包括科學創造力、一般智慧和社交技能，都比最優秀的人類大腦聰明得多的智力。”超級人工智能的範圍從一台比人類聰明一點的計算機到一台比人類聰明數萬億倍的計算機。正因為超級人工智能，AI才會成為如此爆款的話題，而且會頻繁使用“永生”和“滅亡”這倆詞兒。

到目前為止，人們已經在很多領域攻克了最低級別的AI——弱人工智能，而且成果已經隨處可見。人工智能的革命是一條從ANI，到AGI，到ASI的道路，這是一條我們可能從中倖存，也可能難逃厄運的道路。但不管怎樣，這都將改變一切。

下面，我們就來看看這個領域的前沿思想家是怎麼想的，以及為什麼這場革命來得比想象的快得多。

三、當下——一個運作在弱人工智能上的世界

**弱人工智能(ANI)**是在特定方面等同於或超過人類智能或效率的機器智能。從垃圾郵件過濾到淘寶上的商品推薦，從自動駕駛到高頻交易，從商業到軍事，從製造業到醫療……ANI遍地都是。它會從你的操作中精進自己的技藝，也會組成一個網絡，互相交流關於你的信息。

現在的ANI系統還不是特別可怕。最壞的情況是，一個編程有問題的ANI可能會導致毀滅性的災難，比如使電網癱瘓，從而導致核電站故障，危害人類健康；或者引發一場金融市場災難（比如2010年的閃電崩盤：ANI程序對一個意外情況做出了錯誤的反應，導致股市短暫暴跌、1萬億美元市值流失，等這一錯誤被糾正過來後，只有一部分得以恢復）。

儘管現在的ANI沒能力危及人類生存，但我們應該意識到，日益龐大複雜的ANI生態系統可能是是一場改變世界的龍捲風的前驅。每一項ANI創新都在給走向通用人工智能和超級人工智能的道路上添磚加瓦。或者如亞倫·薩恩斯（Aaron Saenz）所見，當今世界的ANI系統“就像地球早期土壤中的氨基酸”一樣，是構成生命的無生命物質，將在一個意想不到的時刻甦醒過來。

四、弱人工智能到通用人工智能之路

這件事為什麼這麼難？

恐怕嘗試研發通用人工智能（AGI）的人最能欣賞人類大腦的精巧複雜（只有他們知道造個全能的機器腦子有多難）。造大樓，去太空，研究宇宙大爆炸，都遠遠比理解或者製造人腦容易得多。到目前為止，人腦是已知的宇宙中最複雜的東西。

**通用人工智能指的是像人類大腦一般全能的計算機，其能力範圍不侷限於某狹窄的領域。**有趣的是，試圖構建通用人工智能的困難部分，可能跟你直覺想的不一樣。對計算機來説，算兩位數乘法太簡單，分辨“眼前”的動物是狗還是貓卻很難。在象棋比賽中打遍天下無敵手已經實現了，而為了理解一段6歲小孩故事書水平的文字，谷歌花了幾十億美元。微積分、市場策略和語言翻譯這樣的硬骨頭對計算機來説too easy，而視覺、運動、動作和知覺對計算機來説卻極其困難。正如計算機科學家唐納德·克努特（Donald Knuth）所説，“人工智能已經成功地完成了所有需要’過腦子’的事情，但卻幾乎未能完成人類和動物’不用過腦子’的事情。”

這是因為，對於人類和大多數動物，這些技能在數億年的進化過程中得到了優化。當你把手伸向一個物體時，肩膀、肘部和手腕上的肌肉、肌腱和骨骼會在瞬間完成一系列的物理活動，與眼睛協調配合，讓你的手能夠在三維空間中沿直線移動。這對你來説似乎不費吹灰之力，因為你已經完善了你大腦中的軟件。惡意軟件沒法識別出驗證碼裏的斜體字母不是因為它太蠢，而是因為你的大腦太令人讚歎了。

另一方面，大數乘法或下棋對生物來説是相對新鮮的事物，我們還沒有足夠的時間進化到精通它們，因此計算機不需要太努力就能打敗我們。想想你更願意做哪個任務：寫一個能算出大數乘法的程序，還是寫一個程序，能在成千上萬個字體或者手寫體中瞬間識別出字母B，並理解他的全部含義？

下面説一個有趣的例子。看這張圖的時候，你和電腦都可以分辨出，明暗不同的色塊交替出現，組成一個長方形：

目前是打成平手。但如果你去掉黑色部分的遮擋，把整個圖像展現出來：

你可以準確描述出各種不透明或半透明的圓柱體、薄片和三維轉角，電腦則一敗塗地。它會描述它看到的：各種明暗不同的二維圖形（其實的確也只有這些），而你的大腦進行了一系列“騷操作”來解釋圖片所隱含的深度效果、陰影交疊和照明光線。

再比如下面的圖片，電腦看到的是一個二維的黑白灰拼貼畫，而你一看就知道這是什麼：一塊純黑色的石頭。

剛才提到的還只是處理靜止的信息。為了達到人類的智能水平，計算機得理解一個微妙的面部表情是友好、寬慰、滿足還是高興，以及為什麼“新時代”令人振奮而“小時代”令人臉酸。

那如何才能做到呢？

創建通用人工智能的第一個關鍵：提高計算能力

要使通用人工智能成為可能，必須提高計算機的硬件能力。如果一個人工智能系統要像大腦一樣智能，必須具有相當於大腦的原始計算能力。

表達這種能力的一種方法是大腦每秒能夠處理的總計算量（calculations per second, cps），庫茲韋爾用大腦中一個部分的計算能力和這個部分在整個大腦中的重量佔比估計出一個數字，這個數字在一億億（1016）這個量級。天河二號超級計算機實際上已經超過了這個數字，但天河二號佔地720平方米，耗電24兆瓦（大腦只有20瓦），造價3.9億美元，不適於廣泛使用。

摩爾定律是一條經過歷史驗證的可靠規則，即計算能力的上限大約每兩年翻一番，這意味着計算機硬件的進步，就像人類歷史的進步一樣呈指數增長。

庫茲韋爾提出用錢來考慮計算機的發展狀況：看看用1000美元能買多少計算能力。當這個數字達到10萬億cps時，意味着通用人工智能將走入千家萬户，成為生活的一部分。上面這張圖是隨着時間推移，用1000美元能買到的計算能力的變化。

因此，目前1000美元買到的電腦可以打敗老鼠的大腦，水平大約是人類的千分之一。按照這個速度，2025年之前我們就能買得起一台與人類大腦相媲美的電腦。

所以在硬件方面，通用人工智能所需要的計算能力已經可以實現了，並且我們將有望在幾年內用上實惠又普遍的通用人工智能級別的硬件。

接下來的問題是：如何給這些計算能力賦予人的智慧？

創建通用人工智能的第二個關鍵：讓它變聰明

這才是棘手的部分。誰也不知道怎樣讓它變聰明。我們還在爭論的是如何讓電腦明白什麼是狗，如何認出潦草的“B”，或者理解一部電影。這有一堆看起來挺牽強，但或許能行得通的策略：

1） 剽竊大腦

這就像是科學家們在努力研究鄰座的那個孩子為啥那麼聰明。即便學習再努力，他們也考不到和那個孩子一樣高的成績。於是他們最終決定：“去他的，我要把那個孩子的答案複製過來！”這種想法似乎很自然：我們怎麼也造不出如此複雜的計算機，但我們的腦袋裏就裝着完美的原型。

科學界正在努力對大腦進行逆向工程，以求弄清楚大腦這麼棒的東西究竟是如何進化出來的。樂觀的估計認為，到2030年我們就可以做到這一點。到那時，我們就會知道大腦的運作為何如此強大和高效，從中汲取靈感，竊取它的創新能力。模擬大腦的計算機體系之一是人工神經網絡：晶體管作為“神經元”，通過輸入和輸出相互連接。起初它像嬰兒的大腦一樣一片空白，它“學習”的方式是嘗試完成一項任務，比如手寫識別。剛開始，它的神經觸發和最終的猜測是隨機的，當它被告知“猜對了”時，這些觸發通道中的晶體管連接會被加強，反之會被削弱。經過大量的試驗和反饋後，網絡已經自己形成了智能神經通路，機器已經針對這項任務進行了優化。大腦的學習方式與之有些相像，但更復雜。隨着腦科學研究的深入，我們將發現巧妙利用神經迴路的新方法。

更徹底的“剽竊”是一種叫做“全腦模擬”的策略：將真實的大腦切成薄片，逐層掃描，用軟件重建一個精確的三維模型，然後在一個功能強大的計算機上實現該模型。於是我們就有了一台計算機，它能處理大腦所能處理的一切，只需要學習和收集信息。如果工程師們做得足夠好，就能精確地模擬真實的大腦。整個大腦結構一旦上傳成功，個性和記憶都會完好無損。如果大腦生前屬於小明，那麼電腦現在會像小明一樣醒來。這將是一個強大的人類級人工智能，我們接下來可以嘗試把小明變成一個超級人工智能，他想必會非常興奮吧。

我們離實現全腦模擬還有多遠？人們已經模擬出了一個1毫米長的扁蟲大腦。它只有302個神經元，而人類的大腦有1000億個。如果這些數字讓你失去信心的話，別忘了指數級進步的力量，現在我們已經征服了小蟲子的大腦，可能很快就能造出一隻螞蟻的大腦，然後是一隻老鼠的大腦，到時候，這一切看起來就沒那麼遙遠了。

2）按我們想要的方式，再來一次進化

如果聰明孩子的答案抄也抄不完，我們可以試着模仿他的學習方式。如果大腦太難模擬，我們可以模擬進化。

事實上，即使我們模擬出大腦，可能也會像模仿鳥類扇動翅膀來造飛機一樣。機器的設計最好採用一種全新的、面向機器的方法，而不是完全模仿生物。

**如何模擬進化？**人們想出了“遺傳算法”：對一個計算機系統反覆執行表現-評估過程（就像生物通過生存來“表現”，並通過它們是否能夠繁殖來“評估”一樣）。一組計算機嘗試執行任務，最成功的計算機得以培育後代：把各自程序的一半合併到一台新計算機中。相對不那麼成功的將被淘汰。經過多次迭代，這種自然選擇過程將產生越來越好的計算機。若是創造一個自動化的評估和繁殖週期，進化過程就可以自己運行起來了。

進化論的缺點是，動不動就花上10億年的時間，而我們希望在幾十年內做到這一點。好在我們與進化論相比有更多優勢。

**第一，進化沒有先見之明，它會隨機產生很多無用的突變；**而我們會控制這一過程，設計有針對性的小故障來實施自然選擇。

**第二，進化沒有任何特定目的，包括智力。**有時一個環境甚至可能會淘汰更高的智力（因為它太費糧）；而我們可以將這一進化過程導向智力的提升。

**第三，**為了選擇智力，進化必須在很多其他方面進行創新來促進智力的發展，比如改變細胞的產能方式；當我們能夠消除這些額外的負擔（諸如用電來供能）時，我們無疑將會比進化要快得多。

但這究竟是不是一種可行的策略？目前還不清楚。

3）把整個問題拋給電腦

科學家們真的走投無路了，於是把這個問題編成程序，讓機器自己解決。這可能是最有希望成功的方法。

這個方法的思路是：**建立一台這樣的計算機，它的兩項主要技能是研究人工智能和編碼改變自己，使它不僅可以學習，而且可以改進自己的體系結構。**我們將教計算機成為計算機科學家，他們的主要任務就是讓自己變得更聰明，這樣它們就可以自力更生，自己發展自己。

所有這些都可能很快發生。

硬件的發展和軟件的創新正同時進行着，可能很快，通用人工智能就會出乎意料地出現在我們身上。原因有二：

1）指數增長是劇烈的，看起來蝸牛般的發展速度可能會快速上漲。下面的動圖很好地説明了這一概念：

 

圖注：計算機還有多久能擁有與人腦一樣的能力？密歇根湖的容量（以盎司為單位）與人腦的容量（以每秒鐘的計算能力為單位）差不多一樣大，計算能力每18個月就翻一番，以這個速度，你在很長一段時間中幾乎看不到什麼進步——然後一下子達標了。

2）軟件的發展似乎是緩慢的，但是一個契機就能立即改變進步的速度（就像當人類認為宇宙是地心的時候，很多東西都難以解釋，但是突然間，日心説讓一切變得容易多了）。對於能自我改進的計算機，可能我們看來，把速度提高1000倍是很難的事情，但實際上可能系統微調一下就可以了。繼而計算機會快速發展成人類級別的智能。

五、通用人工智能到超級人工智能之路

在某時某刻，我們會實現通用人工智能：電腦會有人類的智慧，人類和電腦平等地生活在一起。

事實上，這個很可能不存在。

如果計算能力和智力與人類相當的通用人工智能出現了的話，它與人類相比會有顯著優勢。比如：

硬件方面：

 速度。 大腦的神經元在200Hz左右就達到極限了，今天的微處理器工作在2GHz，比我們快一千萬倍。大腦的內部通訊的速度大約是120米/秒，與計算機的光速毫無可比性。

**大小與存儲 。**大腦被限制在我們的頭顱的形狀下，無論如何也長不大；120米/秒的內部通訊速度也使得腦結構之間的交流得很慢。而計算機可以擴展到任何物理尺寸，允許更多硬件一起工作，不管是運行內存還是永久存儲都比人類大多了。

可靠性和可持續性。計算機不僅記憶更精確，計算機的晶體管也比生物的神經元工作得更精確，而且它們不容易老化（如果老化了也可以隨時換新的）。人的腦袋容易疲勞，計算機卻可以在峯值性能上一直工作不停歇，別説996了，007都行。

軟件方面：

可編輯性、可升級性和更廣泛的可能與人腦不同，計算機軟件可以接收更新和修復，並且很容易進行試驗。軟件升級還可以擴展到人類大腦薄弱的領域：人類的視覺軟件是非常先進的，而其進行復雜工程的能力是相當低級的。計算機可以在視覺軟件上與人類相匹配，但也可以在工程和任何其他領域得到同樣的優化。

**集體合作能力。**人類建立了一個龐大的集體智慧，並在這一方面碾壓所有其他物種。我們起步於語言的發展和密集社區的形成，進步於文字和印刷術的發明，現在又通過互聯網變得更強大。人類的集體智慧是我們能夠領先其他物種而走到現在的主要原因之一。計算機在這方面比我們強得多。一個運行特定程序的全球人工智能網絡可以定期與自己同步，這樣任何一台計算機學習到的任何東西都會立即上傳到所有其他計算機上。這個羣體也可以作為一個整體來實現一個目標，因為不見得會像人類一樣，有異議和“小我”。

人工智能（很可能通過自我提升的程序而成為通用人工智能）不會把“人類水平的智能”看作是一個重要的里程碑，並且沒有任何理由在我們的水平上停下來。考慮到與人類智力相當的通用人工智能比我們具有的優勢，顯然，它只會在短暫地打擊人類之後，向優於人類智力的領域飛速進發。

這件事發生時可能會嚇到我們。從我們的角度來看，a）雖然不同種動物的智力各不相同，但其一大特徵是，他們都遠遠低於我們；b）我們以為最聰明的人與最笨的人差距非常大。有點像這樣：

因此，當人工智能朝着我們的方向靠近時，我們會認為它對動物來説只是變得更聰明瞭。然後，當它達到人類的最低能力時，尼克·博斯特羅姆（Nick Bostrom）用了“村裏的傻瓜”這個詞——我們會説，“哇，它像一個不會説話的人，真可愛！“唯一的問題是，與整個智力範圍相比，所有的人類，從傻瓜到愛因斯坦，都在一個很小的區域裏，所以在人工智能達到傻瓜的水平並被宣佈為通用人工智能之後，它忽然就比愛因斯坦聰明瞭，我們連發生了什麼都不知道：

在這之後會怎樣？

原文來源：https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html

【互動問題：你設想的未來人工智能對你生活的影響是什麼樣子的？】