腦科學與AI交叉領域中的開放問題及預測_風聞
返朴-返朴官方账号-关注返朴（ID：fanpu2019）,阅读更多！06-09 09:47
撰文 | 顧凡及（復旦大學生命科學學院）
2019年年底，卡爾·施拉根霍夫博士（Karl Schlagenhauf）與我合作出版了一套三卷本《腦與人工智能》系列套書[1-3]。我們兩位作者成長於完全不同的文化，且素未謀面：卡爾是一名對腦感興趣的德國信息技術工程師和企業家，而我是一名對人工智能（AI）懷有興趣（雖然是名外行）的中國大學的腦科學教授和科普作家。2013年初，一位共同的朋友，神經科學家漢斯·布勞恩（Hans Braun）教授介紹我們相識，此後我們就一直不斷通信，討論腦研究和AI方面的一些開放問題、現狀評估和發展趨勢，討論怎樣看待兩者的關係以及媒體有關這些領域的“吸睛”報道，直至討論科學方法論和相關的科學組織。這套書就是我們的重要通信記錄集合，即使不説是絕無僅有的話，也還是很獨特的。
我們這樣極其不同的兩個人得以維持並不斷加深友誼，源於對腦科學和信息科學交叉領域的共同興趣。並且，我們都喜歡理性思考的方法，而且總是渴望追究事物的原因和理由，而不是隨大流或囿於學究式的思維。由於經歷的不同，我們的觀點也有明顯差異，這時我們會發揚科學爭論的古老傳統來尋求解決。在某些問題上，我們達成了共識，而在另一些問題上仍然存在分歧，甚至還有某些問題根本就找不到答案。一些新進展支持了我們兩人或者其中一人的看法，並鼓勵我們進一步討論。一些進展甚至超出了我們最好的期望，或者提示我們或其中一人的觀點錯了，因此我們不得不重新考慮，並從錯誤中吸取教訓。所有這些都激發了我們的熱情，重新聚焦要討論的問題，並不斷開啓新的爭論。這些爭論並非是要壓倒對方以顯示自己的高明，而是為了探索事實的真相。
對我們來説不幸的，同時也是幸運的，是這套書的出版時機——2019年底。在接下來的三年多時光中，人類遇到了兩件大事——橫掃世界的新冠大流行和ChatGPT橫空出世——這都是我們當初交談時未能預見到的。這些事無疑分散了讀者對我們書的注意，同時也是對我們書中主要思想的嚴苛考驗。在此期間，在腦研究和信息技術的交叉領域中也發生了一些引起轟動的事件——雖然不能和上述兩件大事相提並論——如馬斯克的神經聯結（Neuralink）腦機接口和霍金斯（Jeff Hawkings）的“千腦智能”理論。而引發我們討論的歐盟人腦計劃也即將到期，是非功過都到了將要蓋棺論定的時候。
令我們感到寬慰的是，雖然我們像絕大多數人一樣，未能預見到新冠大流行和ChatGPT這樣的具體事件，但是回顧當初書中對腦研究和AI中存在的開放問題、現狀評估和發展趨勢的總體看法並沒有重大失誤。2023年5月21日，我們這套書被授予“2022年上海科普教育創新獎成果獎（圖書類）”一等獎，可以看作為社會公眾和專家對我們這些觀點某種程度的肯定。
在這樣的特殊時刻，翻出2018年年中三本書剛剛脱稿時我自己記下的“幾個開放問題”和“幾點預期”，看看當時的這些認識是否經得起這五年裏驚濤駭浪的考驗，還是很有意思的。當然，這並非説我們的看法就一定都對，我們寫那套書的目的並非是給讀者什麼定論，而只是提出問題，擺出自己的觀點和論據，重要的是希望引導讀者加入我們的思考和討論。即使完稿已是五年前的事，今天再重新審視這些問題並仔細思考，依舊不算過時。
下面列出的內容不管是對是錯，都是當時的原話。
幾個開放問題
1. 腦究竟是一種信息處理系統還是一種提取意義的機器？
2. 腦的功能基元是什麼？（離子通道？突觸？神經元？功能柱？…）
3. 對非陳述性記憶所得的研究結果可以都推廣到陳述性記憶嗎？
4. 腦中的計算是什麼意思？神經元能進行圖靈意義下的計算嗎？
5. 智能是什麼？智能與技能，智能與學習能力的關係究竟是什麼？
6. 意識和意識的內容是一回事，還是兩回事？
7. 查默斯的“意識困難問題”是意識研究的瓶頸還是一個偽問題？
8. 從原則上來説是否有可能做到心智上傳？
9. 有沒有自由意志？如何解決自由意志和決定論的矛盾？
10. 大型腦計劃能解決的問題和不能解決的問題。
11. 是否有可能對全腦進行逆向工程來揭開腦的奧秘，和解決人工智能的終極問題？
12. 工程是否應該或可能複製大自然進化的一切策略？有沒有腦樣計算（brain-like computing）？
13. 人工智能與腦研究的確切關係是什麼？
14. 仿神經芯片（neuromorphic chips）的前途如何？
15. 機器翻譯能做到哪一步？
16. 有可能在可預見的未來實現強人工智能嗎？如果能的話，應該不應該研發強人工智能？
17. 有沒有“奇點”這一天？“奇點臨近”的話可信嗎？
18. 在馮諾伊曼架構下，靠增強計算機能力能實現腦的一切功能嗎？
幾點預期
技術將比腦科學發展得更快，但在可預期的未來，不會出現“奇點”。技術將從腦科學研究中尋求啓發，但是不能拷貝腦。這是因為大自然和工程師所採用的方法有根本性的不同。因此腦研究與工程技術依然會平行發展，但是會相互借鑑。建議把Brain-inspired的中文改為“腦啓發”代替“類腦”以避免誤解。
“大科學，團隊科學和公開科學”將在腦研究的基本數據蒐集、臨牀數據蒐集、圖譜和研究工具開發方面取得顯著進展，但是難望在建立腦科學的基本理論框架方面取得突破。
極少可能實現“心智上傳”和通過“逆向工程”建立人腦的全腦模型。
無論對腦科學來説還是人工智能來説，當問題牽涉到心智、智能、意識等“內心問題”時，面臨的共同瓶頸是“主觀性”，對此應該問的問題不是“主觀性是怎麼產生的？”而是它產生的“充分和必要條件”是什麼？在後一問題上會有穩步進展，但是難望在可預期的未來得到解決。
在極端需要節能的條件下，“仿神經芯片”（neuromorphic chip）可能取得重要應用。但是不能確定其是否能發展成新一代計算機系統。這將主要取決於有多少人願意拋棄傳統計算機，而重新學習這新一代計算機的“生態系統”。
有望在介觀層次上，對許多局部神經迴路的活動和機制研究上取得突破。
回顧差不多五年前寫下的“開放問題”，提得並不系統，問題的大小和重要程度也參差不齊。其中一些，我已有了自己的判斷（有的已寫在上面的“幾點預期”中了），而對另一些則依然茫無頭緒。但這些問題至今依舊沒有公論，“開放”如故。在今天的短文中，不可能以上每個問題逐一詳細討論，但可以看看，我們當初的主要預期是否能經得起這五年驚濤駭浪般的考驗。
書中那些兩人經過爭論而取得共識的地方，卡爾説服我要多於我説服卡爾。最令我印象深刻的一處是卡爾的論斷：“物理學家特別是工程師在本學科中的表現優於生命科學家，並且工程似乎是以指數速度發展，而神經科學和醫學的發展則可能只是按線性發展。”一開始，對於我——一位腦科學研究者——來説，這話聽上去確實有些刺耳。但接着卡爾就舉出科技史上的大量案例，使我不得不承認這一現實。
實際上，新冠疫情和ChatPGT問世也可算是對卡爾論斷的明證：一邊是一種結構簡單到甚至算不算生命都難説的病毒肆虐全球，帶來巨大的生命損失和經濟損失，讓全世界最聰明的腦袋手忙腳亂，至今找不到萬全之策；另一邊，卻有人宣稱即將解開世界上最複雜的系統——人腦，可以在十年或幾十年裏用計算機拷貝人腦。當馬斯克戴着口罩在發佈會上宣稱不久可以通過植入芯片使人腦和人工智能融為一體而成超人，一種巨大的諷刺感撲面而來。（我讚賞Neuralink在技術上的重大進展，但它在思想上並無創新，而把人腦和AI融合起來打造超人則純屬迷思）[4]。與醫學的蹣跚形成鮮明對比的是計算機科學的一騎絕塵，在不足一個世紀裏，從發明第一台佔滿整個房間的笨重電子計算機到ChatGPT橫空出世，機器通過圖靈測試已經不是天方夜譚，當我們和聊天軟件對話時，如果不事先想好，刻意設置圈套，確實難以分辨對方是人還是機器。
卡爾早就提出，工程師不會從腦研究的結果中獲益太多，走他們自己的路並忽略生物模型會有更好的結果。這也是我一開始難於接受的。雖然現在依然有許多人宣傳人工智能的瓶頸在於不瞭解腦，只有拷貝腦才能取得實質性的飛躍[5,6] ，但這五年來發生的一切證明並非如此。如果説神經網絡和深度學習在開始時還有點受腦啓發的影子（感受野的多層次投射），那麼其後ChatGPT的研發就完全是靠信息科學技術中的大模型和大數據了。
相反，走拷貝人腦的路線，無論在闡明心智機制方面，還是在應用上，迄今為止都沒有什麼驕人的成就。歐盟人腦計劃早就拋棄了拷貝人腦的目標，繼續馬克拉姆拷貝路線的“藍腦計劃”除了在神經元（或許還在皮層柱）層次上取得了一些仿真腦組織的成就，並未在更高層次上實現任何認知功能[5]。霍金斯的“千腦智能”理論，不僅在神經基礎上站不住腳，在實踐上也依然是一紙空文[6]。已故的埃德爾曼模仿小腦所得的“仿腦機”（也就是達爾文機）雖然能在實驗室中自由穿越彎曲小徑，但今天真正在道路上行駛的無人汽車卻完全是機器學習的產物，與小腦毫無關係（當然埃德爾曼的工作對認識小腦機制有幫助）。
當然，我們的結論——“試圖在硅片上通過逆向工程建立一種生物腦並沒有太大希望”——還有待今後事實的進一步考驗。
五年來的事實一次又一次地證明：大型腦計劃“將在腦研究的基本數據蒐集、臨牀數據蒐集、圖譜和研究工具開發方面取得顯著進展，但是難望在建立腦科學的基本理論框架方面取得突破。”[1]確實，歐盟人腦計劃的最大成就是建立起供神經科學家共享的信息技術平台，藍腦計劃及其合作方美國艾倫腦科學研究所的主要成就是發表了鼠腦各個腦區神經元的分類圖譜，許多國家的腦計劃在連接組圖譜上取得進展，所有這些也許能為將來的腦機制研究的突破提供基礎資料，但是它們本身卻並非是突破。正如陳省身教授所説,“科學上最偉大的發現都不是計劃出來的”。對於開創性的研究和發現，“我們想到的是充滿熱情的個人和小團隊，就像小型研究快艇的船長及其船員，尤其是那些年輕的學生。”[1]不過，何時和何處會湧現出這樣的個人或小團隊，極難預言。
當前AI研發界中有一個普遍的問題，就是混淆了腦功能中的第一人稱視角（主體審視其內心活動的視角）的問題和第三人稱視角（第三者從旁觀察的視角）的問題。許多腦功能，特別是高級功能，尤其是心智，可以從兩種不同視角來看：第一人稱視角和第三人稱視角。前者如果要用一個詞來表達，可能叫“內心活動”；後者如果也要只用一個詞來表達，可能就是“行為”。
目前，“心智”還沒有一個公認的確切定義，往往用其所涵蓋的內容來説明。例如，維基百科的心智（Mind）條目中就是這樣描述的：“心智是一組認知能力的總稱，其中包括意識、想象、感知、思考、判斷、語言和記憶，這些認知能力來自腦（有時包括中樞神經系統）。它通常被定義為一個實體的思想和意識的能力。它擁有想象力、識別力和欣賞力，負責處理感受和情緒，從而產生態度和行動。”[7]
第一人稱視角的內心活動是主觀的、私密的，只有主體自己才能體驗，無法精確地分享給他人。第三人稱視角的行為是廣義的，包括一切可以觀察和測量的活動。心智所涵蓋的諸多方面同時具有這兩種維度，在日常生活中人們常常對這兩個方面混淆不清。有時用一個詞來混指這兩個方面，有時用不同的詞強調不同的方面，但是也沒有明確的公認的分界線，這也是令我下筆時傷腦筋的一個問題。例如，情緒（emotion）往往是一種統稱，而感受（feeling）則往往指內心感受，表情（expression）則明顯地只指情緒的外在表現；類似地，感覺（sensation）強調感官對刺激的反應，可以客觀測量，而知覺（perception）則是對刺激的主觀體驗。當然，一牽涉到意識，主觀性和私密性就更為突出——意識有沒有可以客觀測量的方面，現在恐怕還是一個見仁見智的問題。儘管人們提出“意識的神經相關集合”聽上去似乎是可以客觀測量的，但是這只是“相關”；並且，如果沒有了主觀性和私密性，剩下來的還能叫意識嗎？這似乎也是個問題。
到目前為止，我認為，人工所能製造的都只能是從第三人稱視角來看的方面，也就是模仿行為，對於第一人稱視角的“內心活動”，還一籌莫展。問題是人們常常混淆了這兩者，把人工模仿的行為説成是成功“實現了人工的內心活動”，於是一些人開始談論“人工意識”、“情緒機器”。至於司空見慣的“意念控制”（mind control），其實只不過是對腦信號的控制，這樣就會誤導公眾。
當然，我並非是斷定永遠也不可能實現人工內心活動。因為既然人腦有內心活動，而人腦歸根到底也是一種物質系統，那就沒有理由排除其他物質系統湧現出內心活動的可能性。我在這裏強調的是，內心活動是高度複雜的物質系統在特定條件（我們只是不知道這種條件是什麼，和系統要複雜到什麼程度）下湧現出來的一種屬性，而非獨立於腦的存在。不過，到現在我們也還不知道究竟需要什麼條件，才能湧現出“第一人稱視角的感受”。我們還不瞭解人所需的條件，更遑論瞭解人工系統的了。
確實，從應用的角度講，我們可以撇開第一人稱視角，而只討論從第三人稱視角看到的方面（也就是行為），並從這一角度給出某種操作性定義，這樣就不致產生混淆。例如美國天普大學計算機系王培教授給智能下的定義：在知識和資源不足的情況下依然能適應的能力[8]。這就是完全從第三人稱視角描寫的智能的重要方面，無論對人類智能還是人工智能都適用。王培的定義已經足夠廣泛，能描寫許許多多智能行為，並以此出發，建立他的納思AGI系統來解決實際應用上的問題，這對於他的目的來説已經足夠了。那麼智能有沒有從第一人稱視角描寫的方面呢？我想也是有的，如“理解”。所以我極不贊成人工智能領域使用“自然語言理解”這樣的提法，我認為現階段所做的只是“自然語言處理”。
對當前人工智能方面的研究，我以為，如果用了類似心理學（或心智哲學）上的名詞，那麼應該在一開始便開宗明義地給出一個操作性定義，排除掉第一人稱視角的方面。並且也不要把以後工作的結論用到和第一人稱視角有關的問題上去。
在這一問題上，之所以不能把從第一人稱視角體驗到的現象“還原”到從第三人稱視角解釋得了的機制上去，根本原因是：前者發生在有極多層次的複雜系統的高層，且這些層次之間存在的並非簡單系統中的線性因果鏈，而是層次內部以及層次之間存在互為因果的“循環因果關係”。長期以來，自然科學一直為基於線性因果鏈基礎之上的還原論所統治，正式提出“循環因果關係”還只是上世紀末的事[9]。在對這種因果關係有更深刻的認識之前，希望解決人工“內心活動”的努力，如果不是掛羊頭賣狗肉的話，也將很難實現。
參考文獻
[1] 顧凡及，施拉根霍夫（Karl Schlagenhauf）著，顧凡及譯 （2019）《腦研究的新大陸：一位德國工程師和一位中國科學家之間的對話》系列叢書，上海教育出版社
[2] 顧凡及，施拉根霍夫（Karl Schlagenhauf）著，顧凡及譯 （2019）《意識之謎與心智上傳的迷思：一位德國工程師和一位中國科學家之間的對話》系列叢書，上海教育出版社。
[3] 顧凡及，施拉根霍夫（Karl Schlagenhauf）著，顧凡及譯 （2019）《人工智能的第三個春天：一位德國工程師和一位中國科學家之間的對話》系列叢書，上海教育出版社。
[4] 顧凡及（2020）欲駕馭AI，先與AI共生：馬斯克的“超人”計劃能成功嗎？返樸，2020年8月12日
[5] Fan X and Markram H (2019) A Brief History of Simulation Neuroscience. Frontiers in Neuroinformatics. 13(Article 32):1-28
[6] Hawkins J (2021) A Thousand Brains: A New Theory of Intelligence. Basic Books.
中譯本：霍金斯著，廖璐等譯（2022）千腦智能，浙江教育出版社。
[7] https://en.wikipedia.org/w/index.php?title=Mind&oldid=911062349
[8]王培（2022）智能論綱要，上海科技教育出版社
[9] Haken H (1996) Principles of Brain Functioning: A Synergetic Approach to Brain Activity, Behavior and Cognition. Springer.
中譯本：哈肯著，郭治安、呂翎譯（2000）大腦工作原理：腦活動、行為和認知的協同學研究。上海科技教育出版社
本文受科普中國·星空計劃項目扶持
出品：中國科協科普部
監製：中國科學技術出版社有限公司、北京中科星河文化傳媒有限公司
1. 進入『返樸』微信公眾號底部菜單“精品專欄“，可查閲不同主題系列科普文章。
2. 『返樸』提供按月檢索文章功能。關注公眾號，回覆四位數組成的年份+月份，如“1903”，可獲取2019年3月的文章索引，以此類推。
版權説明：歡迎個人轉發，任何形式的媒體或機構未經授權，不得轉載和摘編。轉載授權請在「返樸」微信公眾號內聯繫後台。