從終結者談未來科技與人類命運 | 無邪_風聞

導讀

新智能的出現，我覺得是應該感到高興的事。假如這種新型智能所需要的資源與人類不一樣——比如説它需要電，而人類需要食物，我相信人類肯定是有生存空間的，甚至，如果人類更包容一些，鼓勵新智能的出現並主動與其融合，人類可能取代神的地位，然後自然消亡。

首先，我是一名終結者粉，從終結者2（T2）我就愛上了阿諾，然後看遍阿諾幾乎所有的電影，還堅持了近兩年的健身（為了給自己加餐，用簡易電爐煮白水面條和雞蛋被抓，受到過嚴重警告）。最近上映的終結者6（T6），總算讓我重新找回了點當年看T2的感覺，當時看完回家已近半夜1點，不能寐，就想寫點什麼，鑑於太晚，憋了半天就發了個朋友圈。

終結者老矣！

T系列電影是典型的末日設定故事。由於機器“叛變”導致人類瀕臨滅絕，最後的人類奮起反抗，雙方各派未來殺手返回過去（也就是我們的現在）獵殺/保護核心領袖。面對冷酷而強大的機器殺手，人類是極其脆弱的，但同時人類也是機智（這個設定其實我是不認同的）而富有感情的。最終戰勝強敵，往往是親情或愛情發揮了關鍵作用。由於標題就明確了這不是一篇影評，所以關於電影故事就説到這，下面進入電影中科幻成分的討論環節。

1. 未來的人工智能會產生快速學習的機器人嗎？

終結者電影中，來自未來的機器人通常具備極高的學習能力。通過眼睛掃描認出各種物品及其威脅程度，對方一開口就已掌握對方語言甚至語調，通過接觸而任意變形，可接入網絡瞬息搜索海量信息…這些設定，基本符合大多數人對未來機器人的想象。這意味着我們通常認為未來的機器人在計算、傳感、材料、能源等方面遠超現代，特別是學習能力，這被認為是產生智能的關鍵要素。電影中的終結者們，通常都是單體高度智能化。我的問題是：這是不是未來智能機器人的發展歸宿呢？從擬人化角度出發，這種無論學習能力、機體材料性能、續航能力、無情感的擬人化機器人通常都是我們很容易認同的。它們突出了人類的特點，同時又克服了肉體凡胎的種種限制，豈不是完美！但事實真的是這樣嗎？每當科學家和工程師們朝這個方向努力的時候，就會發現備受挫折。關於單體智能機器人的想象，不過是人類沙文主義的一種折射而已。

美國宇航局（NASA）對智能機器人有着持續不斷的熱情，一直揮巨資支持各類具備一定智能的機器人研發，以最終將這些機器人送到太空中執行人類無法完成的任務。1990年底，卡耐基-梅隆大學的一個團隊經歷了10年努力，造出一台機器人“漫步者”，用於遠地行星考察。這些頂尖科技人才使出渾身解數，希望這台機器能夠“聰明”地在行星表面行走，並能夠抵禦火星上極端的嚴寒惡劣環境。當“漫步者”最終完成並開始在院子裏漫步時，它走的每一步都要經過“深思熟慮”：通過激光成像儀掃描環境並更新輪廓圖，與“腦”中的地圖做對比，然後計算出最佳路徑來。下一步，這些程序又需要重來一遍，所有的工作都是由一箇中央處理器——機器大腦來完成並給各個傳感器、馬達、氣動裝置下達命令。這看起來並沒有問題，但實際的表現呢？“漫步者”行走極其緩慢，並且所謂的最佳路徑往往不盡人意。更為諷刺的是，這個為行星探索而設計的笨拙機器人，由於塊頭太大，恐怕永遠也到不了任何地外行星，因為它太重了！

當讀者看到這個案例發生的年代是1990年時，一定不以為然：以現在的計算機和傳感傳動技術，我們一定能造出聰明得多、靈活得多的機器人。這的確是事實，比如最近波士頓動力開發的人形機器人Atlas，可以做出一套高難度的標準體操動作，令世人驚歎不已。Atlas在運動能力上的進步非常了不起，這得益於對仿生學的充分利用，以及新的運動管理機制——運動節律控制的分層和模塊化，運動部件既可以接受來自中樞的控制，也可以響應來自軀體各感官器官的反射。但我們需要知道的是，Atlas的後空翻等高難度動作並非人類的強項，比方説，來踢一場足球試試？以當今的硬件計算能力，機器人的反應速度和對動作的控制能力相比差得太遠了，要知道，Atlas為了使得動作變得更靈巧，已經大量運用了模糊計算以降低計算量了。

2013年（左）和2016年的Atlas，早期的Atlas是不是真的有點終結者的感覺？不過屁股後面長長的電纜暴露了它其實還很初級。

人體有超過200塊骨骼和超過500塊肌肉（參考論文《人體骨骼肌肉數量的觀察》，江麗華，中國組織工程研究與臨牀康復，2007，卷11），如果按照現在機器人的常規構建方式，採用中央處理器來協調這些運動部件，且不説其所需計算量不可能在單體人形機器中承載，即便有如此計算力，各部件之間協調產生的延時也將使得整體變得笨拙不堪。那麼人，或者説動物是怎麼做到的呢？我們的大腦，是不是真的需要從眼睛收集圖像，然後規劃路徑，接着計算運動軌跡和姿態，計算着陸點並協調整個身體保持穩定？如果真的這麼做的話，我相信人的動作同樣笨拙不堪。事實上，認為大腦是身體控制的決策中樞就是一個極大的誤區。我們的神經系統，不僅擁有豐富而複雜的反射行為，而且身體各部分神經叢自身就會學習和思考。舉例來説，一位鋼琴演奏家通過大量的練習，可以讓手指在鍵盤上靈動飛舞，如果她有一副好嗓子，甚至還可以邊彈邊唱。這個過程，往往有人形容為“肌肉記憶”或者説已經進入“潛意識”，可我想問的是，到底是肌肉記住了，還是控制手指肌肉的神經記住了？我們還會有這樣的體驗：如果我們在公開場合演講時過於關注自己的形象、發音，便會出現身體僵硬，嘴唇發抖乃至結巴等“拘謹”現象。但一個老練播音員則可以做到神采奕奕，字正腔圓，一字不差。這又是為什麼呢？我的推斷是，這是因為在“拘謹”的情形下，大腦過度參與行為控制導致的。換句話説，我們的行為在大腦過多參與控制的情況下，反而會變“笨”。

如果我們能夠欣賞高等動物優美的運動體態，我們一定也能為那些昆蟲的運動能力而感到驚訝。一隻蚊子每秒扇動翅膀達上千次，一隻螞蟻可以在沙地裏飛速奔跑以保持身體不被沙礫燙傷，一隻蟑螂可以在牆縫中自由穿行…這些複雜的運動又是如何完成的？要知道這些昆蟲們並沒有一個像樣的大腦——頂多是一個特化的神經節。肌肉牽動身體部位以如此高的頻率運動，只能是由對應的神經自治。

撒哈拉銀蟻：每秒能移動0.7米，腿部運動幾乎達到了肌肉伸縮的極限。圖片來源：虞南方

至此，我們有理由相信，運動，這種看起來需要高度智能的行為，其實並不需要一台高性能計算機以及高效的感知-反饋信息處理算法。所需的，只是一套分佈式的、網狀連接的神經系統和一套肌肉、骨骼、關節系統。單個神經元有計算力嗎？沒有，但大量的神經元通過大量的突觸交連在一起，卻可以產生如此神奇的效應，不得不感嘆大自然的精妙。

以上的討論僅集中在由Atlas引出的關於運動能力方面，如果要加入其他行為能力如捕食、繁殖、社交等等，再強大的計算機（量子計算機如果能實現如生物神經網絡般的連接性，也許有點希望）、再天才的數學家、再狂傲的程序員都將束手無策。

（這一段內容由於涉及到神經系統局部“自治”和“記憶”的假説，一定會受到神經科學方面的專家指責。關於神經科學我的確是外行，而身體各部分的神經具有一定的“自治”性也是無嚴格的科學依據的。但我堅信全身的神經系統絕不是除了中樞系統其他神經元就只是簡單的執行命令反饋信息，因為這樣的控制模式本身就是不合理的。這也是為什麼沿着這種思路去研究機器人的時候屢受挫折的原因。處於末端的神經元與處於中樞的沒有區別，神經系統是一個整體，是分佈式系統，而不是“馮-諾伊曼架構”。）

回到這一節的題目：未來的人工智能能夠產生快速學習的機器人嗎？我的回答是：如果不改變思路，基本不可能。在這些問題的思考上，我認為凱文-凱利絕對是先驅——他也是我的偶像之一。他有一個重要的觀點叫“眾愚成智”，意即智能是從大量無智能或低智能的集體中“湧現”出來的。我印象非常深刻的一段是在《失控》一書中關於蜂羣行為的描述。在蜜蜂或螞蟻這種大規模羣居型動物中，傳統的觀點認為有那麼一隻蜂后或蟻后來統領着整個族羣，可惜這只是人的粗暴想象而已。事實上，這樣的羣體沒有王，沒有王后，也沒有元老大臣，沒有哪一隻蜜蜂或螞蟻具有決策權——他們只有“投票權”，蜂羣的行為是從集體中“湧現”出來的。甚至有人在人羣中做過類似的實驗，發現在簡單規則下，人羣也會產生“集體意識”。讓我們再來反思一下大自然是如何創造出人的？很多人會説這是通過數億年的進化而來，有宗教信仰的人則會説是通過某些神性的事件而來的。我認為這是大自然高明的學習結果，這本身就是一種智能模式，我們稱之為“生命”。而習得這些極盡精巧的絕技，所依賴的核心奧義就是：失控。在一個至為簡單的規則——存在下去——指引下，創生過程就以這樣一種失控狀態拉開序幕，直到產生今天的繁榮萬物，連地球本身，都已成為整個生命系統的一部分——它改變着生命，也被生命改變着。控制身體導致拘謹，喝點酒反而能説出豪言壯語。自然就是這樣，越是想去控制，就越會限制創造力。

我們人和目前人工智能的關係呢？很遺憾並不樂觀。人類對人工智能的開發，目的是令其成為更好為人類服務的工具。人工智能首先必須是一個絕對可靠的工具，只有這樣才會受到歡迎。自動駕駛是人工智能非常有前景的一個大型應用場景，很多公司，包括Google、Tesla、Uber、百度等都做了深度開發。我們時不時看到這樣的新聞：某自動駕駛車輛因錯誤識別目標或未能及時識別目標而發生事故，然後深感憂慮，這種擔心在電影《I, Robot》中直接搬上銀屏。但我們並不會在得知人類駕駛的致死率遠高於自動駕駛而拒絕坐出租車，不是嗎？我們可以寬容同類，但絕不會寬容機器。試問，在這種情形下，機器能產生智能嗎？

2. 具備智能的機器人會反攻人類嗎？

機器人在具備智能之後“覺醒”並背叛、反攻人類，是很多科幻電影和故事中慣用的題材。前面已經討論過，機器在人類的嚴格控制下，很難產生出屬於機器的智能。它們能做的，頂多是成為更像人的工具。由於我們已知人類是絕不會放棄這種控制權的，因此是不是我們可以得出結論真正智能的機器人根本不會出現，更談何反攻人類呢？這個結論可以讓你我暫時靠在椅背上長舒一口氣，但如果再仔細想一想可能就不會這麼輕鬆了。首先，如果把智能機器人（這裏指的是具備機器自身智能或意識的機器人）看成是一個“潘多拉盒子”，那我們知道，只要這個魔盒存在，就一定會有被打開的一天。其次，人類對科技的控制，往往只是一種臆想罷了，實際的情況很可能是反過來的。打個最簡單的比方：手機。

作為當下最流行的網絡終端，手機帶來了無數革命性的變化，大大改變了我們的生活。人類掌握了越來越多的新技術，什麼全面屏、人臉識別、屏下指紋、摺疊屏…，但有沒有發現自己沒有了手機都不知道明天該怎麼過？在互聯網的今天，人類的“控制”更是軟弱無力。病毒在互聯網上肆虐過很多次，令所有網民深惡痛絕。但如果我們放棄人類視角，站在一個更公正的角度看，有沒有發現網絡上的病毒竟然真的具有一些生命原始的性質？它們一旦釋放出去，就不斷尋找“宿主”（網絡上其他計算機或設備），複製自己，然後不斷擴散，直至充斥整個網絡。我們給自己的每一台電腦裝上殺毒軟件，運行防火牆，頗有點像免疫系統，對不對？這些病毒會不會像真實的病毒那樣進化呢？我認為會。在層層殺軟和防火牆下，病毒只能夾縫求存，但它們幾乎永遠不會消失——總有小白在用電腦。病毒在複製過程中，考慮到極低的誤碼概率（這種錯誤不是人為設定，而是由物理效應產生的，比如散粒噪聲），會產生“變異”，而這正是生命進化的另一要素。今天的人類肯定是感覺不出這種“進化”的，畢竟從病毒到能夠進行有絲分裂的細菌就經歷了十數億年不是嗎？

類比於生命的進化速度的話，我們大可以不用過早擔心這些電腦病毒會進化成強大的“超驗黑客”。不過，技術的發展往往是沿着類似摩爾定律的指數增長速度前進的，加上我們不知道世界某個角落是否有某位瘋狂黑客在創造着新的超級病毒，因此還是小心為上。我認為至少在我們這代，不用過多擔心機器智能會超越並背叛人類。假如未來這一天真的來了，我認為人類應該更寬容一點。假如人類堅持一貫的自大和傲慢，去壓制機器自覺產生的智能的話，機器多半是會反抗的。真人鋼鐵俠埃隆-馬斯克在這方面就看的很開，他投資“腦機接口”公司，希望人腦有一天能與機器AI相連。這是一個極富創造力的想法，當然很可能是異想天開，但這種心態很好：如果戰勝不了AI，那就成為AI。這也是人類在未來的一種生存模式呀！

3. 真正的“智能機器人”將以什麼形式出現？

前面已經提到互聯網中病毒的生存和“進化”，這本身就具備了生命特徵，因此有朝一日很可能會演化出高級智能形式。在討論“智能機器人”的存在形式時，我們還是得反觀生物的存在形式。在終結者中，機器方派來的未來殺手極為強大，簡直就是不可消滅，最終都是在非常規操作、藉助自然之力的情況下被終結的。如果我們看看自然界就會發現，有些動物有尖鋭的牙齒，有些動物有堅硬的盔甲；有些善於奔跑，有些自在徜徉；有如鉅艦般的大鯨，也有如草芥般的水熊蟲，但是，卻始終沒能進化出一種集眾家之所長的“無敵”物種來。是自然界無法進化出這樣神一般的物種來嗎？我不這麼認為，從枯葉蝶這種變態級擬態動物的出現，我相信大自然只要是覺得有必要，是能夠做出超乎想象的進化來的。有一個令我印象極深的進化案例，是視覺的進化過程。我們的眼睛能夠看見東西，是因為視網膜上的視細胞，而視細胞之所以能夠產生視覺是因為其中有一種感光蛋白——視覺紫質。我們知道蛋白質是由氨基酸組成的多肽鏈式結構，不同的摺疊形式使得蛋白質具備不同的功能或者可以傳遞不同的信息。要從無數種可能中搜索出視覺紫質這樣的感光蛋白本身足以令人嘆為奇蹟，但當我知道有不同的生命形式通過不同的路徑進化出了同樣的視覺紫質時，我所感受到的震驚是難以描述的。這就好比有兩個互不相識的人在互不知情的情況下從火星各開一槍，結果打中了地球上同一只兔子。原來，生命的進化，冥冥之中，竟存在着某些必然性！生命需要視覺，所以有了眼睛；生命需要飛行，所以有了翅膀。為什麼沒有“無敵”的超級物種出現就很容易回答了：因為生命不需要。這種不死不滅的物種會阻斷進化鏈，因此是絕對不允許出現的。回過頭來看機器人的智能，顯然“機器人”們也不會讓自己變得毫無弱點。歸根結底，無破綻的強者，只能是人們一廂情願的想象。

（這一段的表述，讀者可能會認為在我的觀點中，大自然的進化是有目的性的，進而產生大自然進化背後有“神之手”的推論。實際上恰恰相反，生命的進化是“自然”而不受控的。之所是説生命“需要”視覺，“需要”飛行，是因為生命進化過程中“必然”會發現這些技能帶來的好處。這是一個非常緩慢但有效的“學習”或者説優化過程，沒有任何導師。如果把這些技能與技術等同起來——拋開“人”來看的話就應該是等同的，我們甚至能隱約看到技術元素獨立於人和生命系統的發展脈絡，更深刻的思考可參看凱文·凱利（Kevin Kelly，簡稱KK）的《技術想要什麼》。）

枯葉蝶，連葉子的爛孔都模擬的惟妙惟肖。

      

如果延續KK大神的“眾愚成智”思維，則未來機器智能會以另一種形式出現，那就是分佈式的，它不會是某一個單體機器，也不會存在於某個單體機器中，它是一個整體，互聯網是它的神經，電線是它的血脈。這種智能有可能是更高級的形式，所有的終端，甚至包括人在內，都只是這種智能運行的一部分而已，它的“維度”更高，我們難以想象，但正因為我們都是其組成部分，所以如果用心，就能感知到。隨着5G、6G等更先進的通信技術發展，能源問題解決，未來真的進入“萬物互聯”的時代，這種分佈式智能將會更深入的改變世界。人類會不會被這種智能奴役？作為思考題吧。

4. 科技與人類是否具有依存關係？

科技是第一生產力，這是我們人類喊出的口號。確實，在智人出現後，科技得以迅速發展，人類學會了用火，學會了語言，發明了文字、宗教、武器、耕種…，到今天，科技前所未有的發達，人類也賴以播散到世界每一個角落，甚至在月球上留下了腳印。整個過程中可以看到科技發展與人類發展緊密相伴，那麼到底是科技成就了人類，還是人類成就了科技呢？這個問題並不是很好回答。科技確實賴於人類得到了極大的發展，但如果站在生命歷史長河的大視角上，我們會發現，人類很可能只是科技發展的一個階段而已。在赫拉利的《人類簡史》中，作者最後談到人類未來命運時也談到過這樣的問題。我們很可能只是生命進化路徑上的一個過客，我們有可能改造自己，就像終結者6中格蕾絲那樣的改造人一樣，以適應未來社會，亦或消亡，被新的“物種”取代——比如機器人。不管怎麼樣，我們都會發現，不管有沒有人，科技將繼續存在，沿着其路徑堅實地走下去——因為科技本身也具有生命特徵！未來人類很有可能毀於科技，但科技絕不會毀於人類。在終結者2中，主角團隊成功阻止了“天網”派來的終結者刺殺小約翰-康納，在強悍母親莎拉-康納的帶領下，不斷粉碎終結者們的陰謀，最終天網被毀，世界和平。在終結者6開篇，正當莎拉-康納坐在海邊享受着陽光沙灘，回想過去的艱辛但為自己拯救了幾十億人的生命而欣慰時，一隻肌肉炸裂的終結者衝出來，一槍打死了約翰。天網沒了，與天網相關聯的領袖約翰-康納也沒了，結果卻來了“軍團”，看，人類的反抗是多無力，即便幹掉了天網，還有後來者軍團。在未來科技面前，人類的選擇不多。

5. 超越人的新智能出現之後，人類如何求存？

新智能的出現，我覺得是應該感到高興的事，特別是在有生之年能見到感受到的話。假如這種新型智能所需要的資源與人類不一樣——比如説它需要電，而人類需要食物，我相信人類肯定是有生存空間的，畢竟沒有直接的搶奪嘛。甚至，如果人類更包容一些，鼓勵新智能的出現並主動與其融合，人類可能取代神的地位，然後自然消亡（成為“神”之後，繁殖的慾望就沒了，這個邏輯是不是很清奇，哈哈）。

最後，祝終結者6票房大賣，這是偶像阿諾最後一部終結者了。然後祝人類樂享天園，遠離廢土！