DeepMind創始人Demis Hassabis：AI 的強大，超乎我們的想象_風聞
返朴-返朴官方账号-关注返朴（ID：fanpu2019）,阅读更多！2022-08-22 11:41
撰文 | 黃楠、王玥
編輯 | 陳彩嫺
近日，DeepMind 的創始人 Demis Hassabis 作客 Lex Fridman 的播客節目，談了許多有趣的觀點。
在訪談的一開頭，Hassabis 就直言圖靈測試已經過時，因為這是數十年提出來的一個基準，且圖靈測試是根據人的行動與反應來作判斷，這就容易出現類似前段時間谷歌一工程師稱 AI 系統已有意識的“鬧劇”：研究者與一個語言模型對話，將自己的感知映射在對模型的判斷上，有失客觀。
從2015年成立至今，DeepMind在人工智能領域的發展給世界帶來過一次又一次的驚喜：從遊戲程序AlphaGo到蛋白質預測模型AlphaFold，深度強化學習的技術突破解決了困擾人類科學家多年的重大科學問題，其背後團隊的思考與動力，讓人神往。
在Hassabis的這次訪談中，他還談到一個有趣的觀點，即 AI 超越人類的智能侷限。當人類可能已經習慣這個有時間的三維世界，AI 也許可以達到從十二維理解世界的智能，擺脱工具的本質，因為我們人類對世界的理解也還存在許多不足之處。
以下是對Demis Hassabis的訪談整理：
1 從遊戲到 AI
Lex Fridman：你是從什麼時候開始喜歡上編程的？
Demis Hassabis：我大約4歲開始下棋，8歲時用在一場國際象棋比賽中獲得的獎金買了我的第一台電腦，一台zx spectrum，後面我買了關於編程的書。我在一開始用電腦製作遊戲時就愛上了計算機，覺得它們非常神奇，是自己思想的延伸，你可以讓它們做一些任務，隔天睡醒回來時它就已經解決了。
當然，所有機器在某種程度上都能做到這一點，增強我們的自然能力，例如汽車讓我們的移動速度超過奔跑速度。但人工智能是機器能夠做所有學習的最終表現，因此，我的想法也很自然地延伸到了人工智能。
Lex Fridman：你是什麼時候愛上人工智能的呢？什麼時候開始瞭解到，它不只可以在睡覺的時候寫程序、做數學運算，還可以執行比數學運算更復雜的任務？
Demis Hassabis：大概可以分為幾個階段。
我是青少年國際象棋隊的隊長，在大概10歲、11歲的時候打算成為一名職業棋手，這是我的第一個夢想。12歲時我達到大師級的水平，是世界上排名第二的棋手，僅次於Judith Pologer。當我試圖提高棋藝，首先需要提高自己的思維過程，思考大腦是如何想出這些想法的？它為什麼會犯錯？怎樣才能改善這個思維過程？
就像80年代早期和中期的國際象棋計算機，我已經習慣了有一個 Kasparov 的品牌版本，雖然不像今天那麼強大，但也可以通過與其練習來達到提高的目的。當時我想，這真是太神奇了，有人把這個棋盤編成程序來下象棋。我買了一本 David Levy 在1984年出版的《國際象棋計算機手冊》，這是本非常有意義的書，讓我可以充分了解國際象棋程序是如何製作的。
棋棋手，國際象棋特級大師
我的第一個人工智能程序是由我的Amiga編程的，我寫了一個程序來玩奧賽羅逆向思維，這是一個比國際象棋稍微簡單的遊戲，但我在當中使用了國際象棋程序的所有原則，即α-β搜索等。
第二個階段是在我16、17歲左右時設計的一個叫 “主題公園 “的遊戲，其中涉及到 AI 在遊戲中模擬，儘管以今天的 AI 標準來看它很簡單，但它會對你作為玩家的遊戲方式做出反應，因此它也被稱為沙盒遊戲。
Lex Fridman：可否説一些你同 AI 的關鍵聯繫？在遊戲中創建 AI 系統需要什麼？
Demis Hassabis：在我還是個孩子時就在遊戲中訓練自己，後面經歷了一個設計遊戲和編寫 AI for 遊戲的階段。我90年代寫的所有遊戲，都以人工智能為核心組成部分。之所以在遊戲行業這麼做，是因為當時我認為遊戲行業是技術的最前沿，像 John Carmack 和 Quake，好像都是在遊戲中進行的。我們仍在從當中獲取好處，像GPU，是為計算機圖形而發明的，但後來被發現對 AI 有重要作用。所以當時我認為，遊戲中擁有最前沿的人工智能。
早期我參與過一個叫"黑白"的遊戲，它是強化學習在計算機遊戲中應用最深刻的例子。你可以在遊戲中訓練一個小寵物，它會從你對待它的方式中進行學習，如果你對它不好，那它就會變得刻薄，並對你的村民和你所管理的小部落刻薄。但如果你善待它，它也會變得善良。
Lex Fridman：遊戲對善與惡的映射讓我意識到，你可以通過你所做的選擇來確定結局。遊戲可以帶來這種哲學意義。
Demis Hassabis：我認為遊戲是一種獨特的媒介，作為玩家並不僅僅是被動地消費娛樂，實際上，你是作為一個代表積極參與的。所以我認為這就是遊戲在某些方面比其他媒介，例如電影和書籍等更有內涵的原因。
從一開始我們就對 AI 進行了深入的思考，將遊戲作為證明和開放 AI 算法的試驗場。這也是 Deepmind 最初使用大量遊戲作為主要測試平台的原因，因為遊戲非常高效，也很容易有指標來查看 AI 系統是如何改進的，思考的方向，以及是否在做漸進式地改進。
Lex Fridman：假設我們不能製造一台能在國際象棋中擊敗人類的機器，那麼人們會認為，由於組合的複雜性，圍棋是一個無法破解的遊戲。但最終，AI 研究者造出了這台機器，人類才意識到，我們沒有想象中那麼聰明。
Demis Hassabis：這是一段有趣的思考旅程，尤其是當我從兩個角度（AI 創造者與遊戲玩家）來理解時，更覺得神奇，同時又有點苦樂參半的感覺。
Kasparov 將國際象棋稱為智能“果蠅”，我蠻喜歡這個形容，因為國際象棋從一開始就與 AI 密切相關。我認為每一位 AI 實踐者，包括圖靈和香農，以及這一領域的所有先輩們，都嘗試過編寫一個國際象棋程序。香農在1949年寫了第一個關於國際象棋的程序文檔，圖靈也曾寫過一個著名的國際象棋程序，但由於計算機太慢無法運行，因此他用鉛筆和紙來手動運行程序，跟朋友一起玩。
DeepBlue 的出現是一個重要的時刻，它結合了我喜歡的所有東西，包括國際象棋、計算機和人工智能。1996年，它打敗了 Garry Kasparov。在那之後，我對 Kasparov 頭腦的印象比對 DeepBlue 印象更深，因為 Kasparov 是人類的頭腦，他不僅可以與計算機在下棋方面達到同一水平，Kasparov 也可以做人類能做的一切，比如騎自行車、説多國語言、參與政治活動等等。
DeepBlue 雖然在國際象棋中有過輝煌時刻，但它實際上是將國際象棋大師的知識提煉成一個程序，無法做其他任何事情。因此我認為該系統中缺少了一些智能的東西，這也是我們嘗試做 AlphaGo 的原因。
Lex Fridman：讓我們簡單地談談國際象棋中關於人類的一面。你從遊戲設計的角度提出，象棋之所以吸引人是因為它是遊戲。能否解釋一下，在bishop（國際象棋中的“象”）和knight（國際象棋中的“馬”）之間是否存在一種創造性的張力？是什麼讓遊戲具有吸引力，並且能跨越幾個世紀？
Demis Hassabis：我也在思考這個問題。實際上很多優秀的象棋玩家並不一定是從遊戲設計師的角度去思考這個問題。
為什麼國際象棋如此吸引人？我認為一個關鍵的原因是不同棋位的動態，你可以分辨出它們是封閉的還是開放的，想一下象和馬的移動方式有多麼不同，而後國際象棋在已經進化到平衡這二者的程度，大致都是3分。
Demis Hassabis：也許這有點像雞生蛋還是蛋生雞的情況，但二者達到一種美麗的平衡，象和馬和騎士權力不同，但在整個宇宙的位置中其價值是相等的。過去的幾百年裏，它們一直被人類所平衡，我認為這賦予了遊戲創造性的張力。
Lex Fridman：你認為 AI 系統能吸引人類去設計遊戲嗎?
Demis Hassabis：這是個有趣的問題。如果把創造力定義為想出一些原創的、對某個目的有用的東西，那麼最低水平的創造力就像一個插值表達，基礎的 AI 系統都具備這樣的能力。給它看數百萬張貓的照片，然後給我一隻普通的貓，這個被稱之為插值。
還有像 AlphaGo，它可以推斷。AlphaGo 與自己對弈了數百萬場後想出了一些非常棒的新點子，比如在對弈中走37步，提供了一個人類從未想到的策略，儘管我們已經玩了上百數千年。
在此之上還有一個層次，就是能否跳出思維定式做真正的創新。你能發明象棋，而不是想出一個棋步麼？是否能發明國際象棋、或其他和國際象棋或圍棋一樣的東西？
我認為有一天 AI 可以做到，而現在的問題是如何給一個程序指定這個任務。我們還不能把高層次抽象概念具體到人工智能系統中，它們在真正理解高層次的概念或抽象概念方面仍然缺少一些東西。就目前而言，它們可以組合和構成，AI 能夠做插值和推斷，但都不是真正的發明。
Lex Fridman：提出規則集並優化，圍繞這些規則集制定複雜的目標，是我們目前無法做到的。但是否可以採用一個特定的規則集並運行，觀察 AI 系統從頭開始學習的時間有多長？
Demis Hassabis：實際上我考慮過，這對於遊戲設計師來説是驚人的。如果有一個系統拿你的遊戲玩上千萬次，也許一夜之間就能實現自動平衡規則。可以通過方程或參數來調整遊戲中的單位或規則，使遊戲更平衡。這有點像給出一個基本集，通過蒙特卡羅方法搜索或類似的方法來探索，那將是超級強大的工具。
而為了自動平衡，通常需要從數百場比賽中訓練數千小時，平衡像星際爭霸、暴雪等這樣的遊戲是令人震驚的，這需要測試人員年復一年的時間。所以可以想象，當某個時刻這些東西變得足夠有效，你可能會想在一夜之間做到。
Lex Fridman：你認為我們是生活在模擬（Simulation）中嗎？
Demis Hassabis：是的。Nick Bostrom 首次提出了著名的模擬理論，但我不太相信它。從某種意義上説，我們是在某種電腦遊戲中，或者我們的後代以某種方式在 21 世紀重塑地球。
理解物理學和宇宙的最佳方式是從計算的角度將其理解為信息宇宙，實際上，信息是現實的最基本單位。與物質或能量相比，物理學家會説 E=mc²，這是宇宙的基礎。但我認為，信息可能是描述宇宙的最基本方式，它本身可以指定能量或物質正確的物質。因此可以説我們處於某種模擬中。但我不同意這些想法丟棄數十億個模擬。
Lex Fridman：基於你對通用術語機器的理解、對計算機的理解，你認為宇宙中存在計算機能力之外的東西嗎？你並不認同 Roger Penrose （數學物理學家）的意見？
Demis Hassabis： Roger Penrose 很有名，曾參與過許多精彩的辯論，我讀過他的經典著作《皇帝新腦》，他解釋大腦中的意識還需要更多量子的東西。我工作中也一直在思考我們正在做什麼，實際上，我們正將圖靈機或經典計算推向極限。經典計算的極限是什麼？我也研究了神經科學，這是我博士選擇這一方向的原因，從神經科學或生物學的角度來看大腦中是否有量子存在。
到目前為止，大多數神經科學家和生物學家會説，沒有證據表明大腦中有任何量子系統或效應，大多可以用經典理論和生物學方面的知識來解釋。但與此同時，從圖靈機可以做的事情開始，包括 AI 系統，這個過程是一直在進行的，尤其是在過去的十年裏。我不敢打賭通用圖靈機和經典計算範式能走多遠，但大腦中發生的事情或許可以在機器上模仿，而不需要形而上學或量子的東西。
2 Al for science
Lex Fridman：下面我們談談 AlphaFold，你認為人類思維都來自於這種類似神經網絡的、生物的計算糊狀物，而非直接在精神上工作？
Demis Hassabis： 在我看來，宇宙中最大的奇蹟就是我們頭骨裏只有幾磅的糊狀物，它也是大腦和目前所知宇宙中最複雜的物體。我認為這是一台令人驚奇的高效機器，這也是我一直想構建 AI 的原因之一。通過構建像 AI 這樣的智能體，將其與人類思維進行比較，或能幫助我們歷史以來一直想知道的心靈的獨特性，和真正的秘密、意識、做夢、創造力、情感等一切事物。
現在有了大量的工具來實現這件事。所有的神經科學工具、FMI機器都可以記錄，也有 AI 計算能力可以建立智能系統。人類思維所能做的事情令人驚訝，人類創造了像計算機這樣的東西，並思考和研究這些問題，也都是對人類頭腦的證明，有助於我們更清晰地瞭解宇宙和人類的思想。甚至可以説，我們或許是宇宙嘗試和理解自己美麗的機制所在。
從另一個角度看，生物學的基本構件也可以用於理解人類思想和身體，從基本構建開始模擬和建立模型是件很神奇的事情，你可以構建越來越大的、更復雜的系統，甚至是整個人類生物學。
還有一個被認為不可能解決的問題，就是蛋白質摺疊，而 AlphaFold 解決了蛋白質摺疊問題，這是結構生物學史上最大的突破之一。蛋白質是所有生命都必不可少的，身體每一個功能都依賴於蛋白質。
蛋白質由它們的基因序列（也被稱為氨基酸序列）指定，可以將其視為它們的基本構件。它們會在身體中、在自然界中摺疊成一個三維結構，這個三維結構決定了它在身體中的功能。此外，如果你對藥物或疾病感興趣，想用一種藥物化合物來阻斷蛋白質的作用，前提是要了解蛋白質表面結合點的三維結構。
Lex Fridman：蛋白質摺疊問題的本質是，你能從氨基酸序列中得到一維的字母串嗎？能通過計算立即預測出三維結構嗎？這是50多年來生物學界的一個重大挑戰。1972年的諾貝爾獎獲得者 Christian Anfinsen 首次闡述，他推測，從氨基酸序列到三維結構是可以實現的。
Demis Hassabis： Christian Anfinsen 的這句話開啓了整個計算生物學的50個邊緣領域，他們被困在當中、並沒有完成得很好。
在 AlphaFold 出現之前，這都是通過實驗來完成的，讓蛋白質結晶是件非常困難的事情，有些蛋白質不能像膜蛋白那樣結晶，必須使用昂貴的電子顯微鏡或X射線晶體分析儀，才能得到三維結構並將其結構可視化。有了 AlphaFold 後，兩個人就能在幾秒鐘內預測出三維結構。
Lex Fridman：有一個數據集，它在這個數據集上進行訓練，以及如何映射氨基酸。令人難以相信的是，這個小的化學計算機能以某種分佈式方法來計算，且算得非常快。
Demis Hassabis： 或許我們該討論一下生命的起源。實際上，蛋白質本身是一個神奇的小生物和動物機器。提出列文塔爾悖論的科學家 Cyrus Levinthal 大致計算了一下，一般的蛋白質可能有2000個氨基酸鹼基長，可以有10到300種不同的蛋白質摺疊方式。而在自然界中，物理學以某種方式解決了這個問題，蛋白質會在幾毫秒、或是一秒的時間內，在你的身體中摺疊起來。
Lex Fridman：該序列有獨特的方式來自我形成，它找到了一種在巨大可能性中保持穩定的方式。某些情況下可能會出現功能失調等情況，但大多時候是獨特的映射，而這種映射並不明顯。
Demis Hassabis：如果是健康通常有一個獨特的映射，那患病時，究竟問題出在哪裏。例如，曾經有一個對阿爾茨海默氏症的猜想是，因為以錯誤的方式摺疊 β-澱粉樣蛋白導致摺疊錯位，以至於在神經元中糾纏在一起。
因此，要了解健康、功能和疾病，就需要了解它們是如何結構化的，知道這些東西在做什麼超級重要。下一步是當蛋白質與某些東西相互作用時，它們會改變形狀。因此在生物學中，它們不一定是靜態的。
Lex Fridman：或許你可以給出一些解決 AlphaFold 的方法，與遊戲不同，這是真正的物理系統。這當中什麼是非常難解決的？有哪些跟解決方案是相關的？
Demis Hassabis：AlphaFold 是迄今為止我們構建的最複雜、可能也是最有意義的系統。
我們起初構建的 AlphaGo 和 AlphaZero 都是與遊戲相關，但最終目標不僅僅是破解遊戲，而是使用它們來引導通用學習系統，並應對現實世界的挑戰。我們更多是希望致力於像蛋白質摺疊這樣的科學挑戰，AlphaFold 是我們的第一個重要證明點。
就數據來説，創新數量大概需要30多種不同的組成算法，放在一起來破解蛋白質摺疊。一些重大的創新是圍繞物理學和進化生物學，建立了硬編碼來約束像蛋白質中鍵角之類的東西，但不會影響學習系統，因此，系統仍能從案例中學習物理。
假設只有大約15萬個蛋白質，即使經過40年的實驗，也大概只有約5萬種蛋白質結構會被發現。訓練集比通常使用的數據量要少得多，但當中使用了像自我提取等各種技巧。因此，使用 AlphaFold 做一些非常有信心的預測時，將其放回訓練集中使訓練集更大，對 AlphaFold 工作至關重要。
實際上，為了解決這個問題，需要進行大量的創新，AlphaFold 產生的是一個直方圖，一種蛋白質中所有分子之間的成對距離的矩陣，它們必須是一個單獨的優化過程來創建三維結構。要使 AlphaFold 真正地從端到端，可直接從氨基酸的鹼基序列到三維結構，跳過中間步驟。
從機器學習中也可以發現，越是端到端，就越能使系統變得更好，系統比人類設計者更善於學習約束條件。在這種情況下，三維結構要比有中間步驟更好，因為那必須手工進入下個步驟。最好的辦法是讓梯度和學習一直流經系統，從終點到想要的最終輸出，再到輸入。
Lex Fridman：關於 AlphaFold 的設想，那或許是生物學中一個漫長旅程的早期步驟，你認為同樣的方法是否預測更復雜的生物系統的結構和功能、多蛋白質相互作用；其作為一個起點，能模擬越來越大的系統，最終模擬像人的大腦、人體這樣的東西嗎？你認為這是一個長期的願景嗎？
Demis Hassabis：當然，一旦我們有了足夠強大的生物學系統，治療疾病和理解生物學就是我的 To Do List 上的首要任務，這也是我親自推動 AlphaFold 的原因之一，AlphaFold 只是一個開始。
AlphaFold 解決了蛋白質結構這個巨大的問題，但生物學是動態的，我們所研究的所有東西都是蛋白質液體結合。與分子發生反應，搭建通路，最終形成一個虛擬細胞，那是我的夢想。我一直同很多生物學朋友交談，其中就包括了克里克研究所的生物學家 Paul Nurse。對生物學和疾病發現來説，構建一個虛擬細胞是不可思議的，因為你可以在虛擬細胞上進行大量實驗，最後階段再進入實驗室來驗證。
就發現新藥而言，從確定目標到擁有一個候選藥物大約需要10年時間，如果能在虛擬細胞中完成大部分工作，或許可以將時間縮短一個數量級。為了實現虛擬細胞，必須建立對生物學不同部分相互作用的理解。每隔幾年，我們就會與跟 Paul 談論這個問題。去年在 AlphaFold 之後，我説現在終於是我們可以去做的時候了，Paul 非常激動。我們與他的實驗室有一些合作。在 AlphaFold 的基礎上，相信生物學會有一些驚人的進步，目前也可以看到，在 AlphaFold 開源之後已經有社區在做了。
我認為有一天，人工智能系統可能會解決像廣義相對論這樣的問題，而不僅僅是通過對互聯網或公共醫療上的內容進行處理。這將非常有趣，看它會能夠想出什麼。這有點像我們之前關於創造力發明圍棋的辯論，不是僅僅想出一個好的圍棋動作。如果想要獲得像諾貝爾獎的獎項，那它需要做的是發明圍棋，而不是由人類科學家或創造者來指定。
Lex Fridman：很多人確實把科學看作是站在巨人的肩膀上，而問題是你在巨人的肩膀上真正達到了多少？也許它只是吸收了過去的不同類型的結果，最終以新的視角提供了突破性的想法。
Demis Hassabis：這是一個很大的謎團，我相信在過去十年甚至未來幾十年中，很多新的重大突破都會出現在不同學科領域的交叉點上，在這些看似不相干的領域之間會發現一些新的聯繫。人們甚至可以認為，深層思維是神經科學思想和 AI 工程思想間的一種交叉學科。
Lex Fridman：你有一篇論文是“通過深度強化學習對託卡馬克等離子體進行磁控制”，所以你在尋求用深度強化學習來解決核聚變，做高温等離子體的控制。你能解釋一下 AI 為什麼最終能解決這個嗎？
Demis Hassabis：過去的一兩年裏，我們的工作非常有趣和看到了成效，我們啓動了很多我的夢想項目，這些是我多年來收集的同科學領域相關的項目。如果我們能參與推動，或許能帶來具有變革性的影響，科學挑戰本身就是一個非常有趣的問題。
目前，核聚變面臨許多挑戰，主要在物理、材料、科學和工程等方面，以及如何建造這些大規模的核聚變反應堆並容納等離子體。
我們與瑞士洛桑聯邦理工學院（EPFL）和瑞士技術研究所合作，他們有一個測試反應器願意讓我們使用。這是一個驚人的測試反應堆，他們在上面嘗試各種相當瘋狂的實驗。而我們則看的是，當進入一個新領域如核聚變時，瓶頸問題是什麼？從第一原理思考阻礙核聚變運作的底層問題是什麼？
在這種情況下，血漿控制是完美的。這個等離子體有100萬℃，比太陽還熱，顯然沒有任何材料可以容納它。因此必須有非常強大的超導磁場，但問題是等離子體相當不穩定，就像在一個反應堆中持有許多顆星，提前預測等離子體會做什麼，你可以在幾百萬秒內移動磁場來控制它接下來會做什麼。
如果你把它看作是一個強化學習預測問題，這似乎很完美，有控制器，可以移動磁場和切割，但此前用的是傳統的控制器。我希望有一種可控的規則是他們不能在當下對等離子體做出反應，必須是硬編碼的。
Lex Fridman：AI 最終解決了核聚變。
Demis Hassabis：去年我們在《自然》雜誌上發表了關於解決這個問題的論文，把等離子體固定在一個特定的形狀。實際上這幾乎就像是把等離子體雕刻成不同的形狀，控制它並保持在那裏創紀錄的時間。這是核聚變的一個未解決的問題。
把它包含在結構中並保持，還有一些不同形狀更有利於能量的產生，稱為滴液等等，這是很重要的。我們正與許多核聚變初創公司溝通，看在核聚變領域可以解決的下一個問題是什麼。
Lex Fridman：論文標題中還有一個迷人的地方，通過解決分數電子問題來推動密度函數的前沿。你能解釋一下這項工作嗎？AI 在未來能否對任意的量子力學系統進行建模和模擬？
Demis Hassabis：人們試圖寫出密度函數的近似值以及對電子雲的描述，觀察兩個元素放在一起時如何相互作用。而我們試圖做的是學習一種模擬，學習一種能夠描述更多化學類型的化學函數。
到目前為止，AI 可以運行昂貴的模擬，但只能模擬非常小和非常簡單的分子，我們無法做到模擬大型材料。因此要建立函數近似值來展示其方程後，描述電子在做什麼，所有材料科學和性質都是由電子如何相互作用來控制的。
Lex Fridman：通過功能對模擬進行總結來接近實際模擬出來的結果，這項任務的難度在於運行復雜的模擬，學習從初始條件和模擬參數的映射任務，學習函數會是什麼？
Demis Hassabis：這很棘手，但好消息是我們已經做到了，我們可以在計算集羣上運行大量的模擬，即分子動力學模擬，由此產生了大量的數據。在這種情況下，數據是生成的。這就是為什麼我們使用遊戲模擬器來生成數據，因為可以隨心所欲地創造出更多的數據。如果在雲端有空閒的電腦，我們就可以運行這些計算。
3 AI 與人類
Lex Fridman：你怎麼理解生命起源？
Demis Hassabis：我認為 AI 的最終用途是將科學加速到極致。它有點像知識之樹。如果你想象這就是宇宙中要獲得的所有知識，但目前為止，我們幾乎只觸及了它的表面。AI 會加速這個過程，儘可能多地探索這棵知識樹。
Lex Fridman：直覺告訴我，人類的知識之樹是非常小的，考慮到我們的認知侷限。即使有工具，我們仍然不能理解很多事情。這也許是非人類系統能夠走得更遠的原因。
Demis Hassabis：是的，很有可能。
但首先，這是兩件不同的事情。就像我們今天理解了什麼，人類的思想能理解什麼，我們要理解的整體是什麼，這裏有三個同心，你可以把它們想象成三棵更大的樹，或者探索這棵樹的更多分支。有了 AI 後我們會探索更多。
現在的問題是，如果你思考一下我們能理解的事物的總體是什麼，可能有些事物不能被理解，比如模擬之外的事物，或宇宙之外的事物。
Lex Fridman：因為人類大腦已經習慣了這個有時間的三維世界的狀態。
Demis Hassabis：但我們的工具可以超越這些。它們可以是11維，12維的。
我經常舉的例子是當我和 Gary Kasparov 下棋時，我們討論過象棋之類的東西，如果你很擅長下棋，你不能想 Gary 他的走法，但他可以給你解釋。你可以將其理解為事後推理。有一個進一步的解釋，也許你不可能發明這個東西，但你可以理解和欣賞，就像你欣賞維瓦爾第或莫扎特一樣欣賞它的美。
Lex Fridman：我想問一些更瘋狂的問題。比如，你認為地球之外有外星文明嗎？
Demis Hassabis：我個人的看法是，我們目前是孤獨的。我們已經有各種天文望遠鏡和其他探測技術，嘗試着在太空裏尋找其他文明的信號，如果現在有許多外星文明在同時做這樣的事，那我們應該聽到來自外太空的嘈雜聲音。可事實是，我們什麼信號也沒收到。
有很多人會爭辯説，世界上有外星文明，只是我們還沒有真正好好地去搜索，或者説我們找的波段錯誤，也有可能使用了錯誤的設備，我們沒有意識到外星人存在的形式非常不同，等等。但我不同意這些觀點，我們其實已經做了很多探索了，如果真有那麼多外星文明，那我們應該早就發現了。
有趣的是，如果地球是孤獨的文明，從大過濾器（Great Filters）的角度來看，這還挺令人欣慰，這意味着我們已經通過大過濾器的篩選了。
説回你剛才問的生命起源問題，生命起源於一些令人難以置信的事物，而且沒人知道這些事是怎麼發生的。如果在地球以外的地方看到單細胞的某種生命形式，比如細菌，我不會感到驚訝。但就憑其能夠捕獲線粒體並將線粒體為我所用的這個能力，多細胞生命的出現的難度就是空前絕後的。
Lex Fridman：你認為需要有意識才能有真正的智能嗎?
Demis Hassabis：我個人認為，意識和智慧是雙重分離的，所以我們可以在沒有智慧的同時實現意識，反過來也一樣。
舉個例子，很多動物是有自我意識的，也會社交和做夢，它們可以被定義為有一定的自我意識，但是它們沒有智慧。但同時，那些在某一任務上非常聰明的人工智能，它們會下象棋，或者執行其他任務執行得非常好，但是它們沒有任何的自我意識。
Lex Fridman：前段時間谷歌的一個工程師認為某個語言模型是有感知的，你遇到過有感知的語言模型嗎？如果一個系統出現了“感知”，你怎麼理解這種情況？
Demis Hassabis：我不覺得目前世界上的任何一個 AI 系統是有意識或者有感知的，這是我每天與 AI 互動的真實感受。所謂感知，更多是我們大腦自己的投射，由於那是一個語言模型，與智慧息息相關，所以人們就很容易把系統擬人化。這也是為什麼我認為圖靈測試有缺陷，因為它建立於人的反應和判斷上。
我們應該和頂尖的哲學家談談意識，比如 Daniel Dennett 和 David Charmers，以及其他對意識有深刻思考的人。目前意識還沒有公認的定義，如果讓我來説的話，我覺得意識的定義是，信息得到處理時帶來的感覺。
Lex Fridman：讓我問一個黑暗的私人問題。你説創造一個世界上最強大的超級人工智能系統。正如老話所説，絕對權力導致腐敗，你也很有可能成為其中一員，因為你是最有可能控制這個系統的人。你會考慮這些麼?
Demis Hassabis：我每時每刻都在思考有什麼能對抗這種腐敗的防禦措施。
人類最大利益的工具或技術讓我們進入一個激進的世界，我們面臨着許多艱鉅的挑戰。AI 可以幫助我們解決問題，最終使人類走向終極繁榮，甚至找到外星人。而 AI 的創造者，AI 所依賴的文化，AI 擁有的價值觀，AI 系統的構建者都會影響它的發展。即使 AI 系統會自己學習，但其大部分知識也會帶有一定已有文化和創造者價值觀的殘留。
不同的文化讓我們比以往任何時候都更加分裂，也許當我們進入了一個極度富足的時代以後，資源不那麼稀缺了，我們就不需要激烈競爭，而是可以轉向更好的合作。
Lex Fridman：當資源受到重大限制時，一些暴行就會發生。
Demis Hassabis：資源稀缺是導致競爭和破壞的原因之一，全人類都想生活在善良、安全的世界裏，所以我們必須解決稀缺性的問題。
但這還不足以達成和平，因為還有其他東西會產生腐敗。AI 不應該任由僅僅一個人、或者一個組織來運行。我認為 AI 應該屬於世界，屬於人類，每個人都應該對 AI 有發言權。
Lex Fridman：你對高中生和大學生有什麼建議嗎? 如果年輕人有從事 AI 的願望，或者想以自己的力量影響這個世界，他們應該如何獲得一份自己由衷感到自豪的職業？如何找到理想的生活？
Demis Hassabis：我總喜歡對年輕人説兩句話，第一句話是，你真正的激情在何處？年輕人應該去儘可能地探索這個世界。在人年輕時，我們有足夠多的時間，還能夠承擔探索帶來的風險。以自己獨特的方式去尋找事物之間的聯繫，我認為這是尋找激情所在的好方法。
第二句話是，瞭解你自己。要花很多時間去了解自己最佳的工作方式是什麼，最佳的工作時間是什麼時候，最佳的學習方式是什麼?，如何應對壓力。年輕人應該在不同的環境下測試自己，嘗試改進自己的弱點，找出自己獨特的技能和優勢，然後磨練它們，這些就是你以後在這個世界上的價值。
如果你能把這兩件事結合起來，找到自己的激情所在，鍛煉出你自己獨特而強大的技能，那麼你就會獲得不可思議的能量，給世界帶來巨大的改變。
本文轉載自微信公眾號“雷鋒網”。
特 別 提 示
1. 進入『返樸』微信公眾號底部菜單“精品專欄“，可查閲不同主題系列科普文章。
2. 『返樸』提供按月檢索文章功能。關注公眾號，回覆四位數組成的年份+月份，如“1903”，可獲取2019年3月的文章索引，以此類推。