人工智能的困局_風聞

目前的計算機還沒有實現真正的智能

首先有幾個問題。

人工智能成為專門的學科誕生以來，經歷了幾次起落，在人們的期望和失望中擺動。即便目前在計算機、機器人中取得了許多成就，也還是顯得不盡人意。業內很多人都能感覺到目前的人工智能離人類大腦的智能仍有較大差距，高等智能的提出就有這方面的因素。但究竟如何才能讓人工智能更進一步走向人腦智能？還有，之前我們對智能的研究缺失了什麼以至於計算機實現的智能與人腦的智能之間存在越不過去的坎？

對智能的研究一直都以人類大腦的智能為範本。但大腦及神經系統只是生物演化中形成一種信息系統而已，還有沒有其他種類的信息系統可以作為研究對象？如果有，這些信息系統會有哪些異同？

目前人們對於智能的定義有很多種説法，會思考、有意識、理智、智慧、像人那樣行動等等，都歸屬於描述性表述。會不會有一種更簡單的，更直觀的，觸及到本質的定義呢？

下面闡述一下體系論中關於信息系統和智能的觀點。

在體系論中，細胞為一級生物體系，動物、植物、真菌為二級生物體系，人類社會為第三級生物體系。其中第一級和第二級是緊緻實體，即通常人們所説的細胞（體）、動物（體）、植物（體）；第三級生物體系是離散型生物體系，非緊緻實體。一級生物體系細胞作為基本單元組成了二級生物體系，二級生物體系中的人作為基本單元組成了第三級生物體系。

一級生物體系的信息系統以DNA為主，二級生物體系的信息系統為神經系統，其中以大腦為主，第三級生物體系的信息系統為社會信息系統，包含了社會中人的頭腦、書籍、計算機、手機、互聯網等。至此我們可以看到，在自然演化形成的信息系統中，除了大腦，還有DNA和社會信息系統。社會信息系統中又以人的大腦為核心，因此我們可以先以DNA、大腦-神經系統和計算機這三種典型的信息系統為對象進行研究。

對DNA主導下的細胞和大腦-神經系統主導下的人的行為表現進行觀察、分析，DNA和大腦-神經系統不僅僅有感知引起的行為，還會有自發的、主動的行為。比如大腦內突然湧現出的想法、突然萌生的要去哪裏做什麼的意願。可見DNA和大腦神經系統有自主能力，能夠自發地形成信息活動，產生自主行為，它們都是自主信息系統。

在演化方面，DNA可以由突變產生新的信息概念，推動演化；大腦可以通過思考、靈感形成新的信息概念，實現信息演化。它們都有自主演化能力。DNA中新信息概念產生的速率要小於大腦靈感的產生速率，而且大腦靈感可以有很強方向性，產生之後可以通過思考進行檢驗、處理，篩選出結果，大腦相比DNA有很強的信息處理能力。因此二級信息系統 大腦-神經系統的演化活性和信息處理能力是高於一級信息系統DNA的演化活性和信息處理能力的，另外通過對比我們也可以發現，第三級信息系統 社會信息系統的演化活性和信息處理能力也高於大腦-神經系統的。總結可知，一、二、三級信息系統都是自主信息系統，都具備自主演化能力，它們的演化活性和信息處理能是逐級提高的。

再看看人類製造出來的信息系統——計算機，目前它只能在編程後按人的指令產生信息活動，或者通過外界的感應形成活動，無法像人和細胞那樣自發地形成信息活動。雖然有些機器人擁有自行能力，但還是基於感知-行動或者人的指令產生的，它的信息活動仍然不是自發形成。目前的計算機只是實現了半自主信息活動能力，只能算是半自主信息系統。在演化方面，計算機中的新信息概念是由人輸入形成的，它的演化是在人的輔助下的演化，和自主演化有本質的區別。

根據對DNA、大腦、計算機的觀察和分析，我在體系論中提出了偶發信令、可控信令、信令協調控制機制和信息概念的觀點。DNA和大腦都可以形成偶發信令，然後偶發信令在信令控制機制的協調下引發一系列可控信令，形成信息活動，即自主信息活動。計算機本身無法產生偶發信令，只能由外界引發起始信令後，在信令控制機制的協調下產生一系列可控信令，形成信息活動，即半自主信息活動。DNA可以由突變形成新信息概念——新基因，實現自主演化。大腦可以由偶發信令形成新的信息概念，實現自主演化。而計算機還形成不了偶發信令，也沒有突變，無法形成自主演化，只能在人的作用下實現升級、演化。

自然界中，正是突發、偶發事件引起的一系列變化推動了事物的發展和演變。信息系統的出現使這些突發、偶發事件及連鎖變化更可靠了。在DNA中，有偶發信令、突變來形成自主信息活動，產生新信息概念，推動演化；在大腦中，有偶發信令來形成自主信息活動，產生新信息概念，推動演化；在社會信息系統中，有大腦的偶發信令來形成自主信息活動，產生新信息概念，推動演化。

目前的計算機與人腦的差距就在於無法產生偶發信令，也形成不了新信息概念，所以無法產生自主信息活動，無法實現自主演化。現在計算機實現的智能可以在特定情景中達到很好的預期效果，而在情景改變後就變得極其笨拙了，更不要説適應更為廣泛的情景了。然而人就不一樣，到了新環境後經過學習思考可以很好地適應新環境。可見，計算機、人工智能若想要達到大腦那樣的智能，必須能夠產生偶發信令，形成新信息概念，實現自主演化。計算機的普適性應該通過提高其自主演化活性來實現。

通過以上對信息系統的分析，我們提出了新的關於智能的定義，即偶發信令形成新信息概念的能力為智能。這樣我們會認識到計算機和DNA都沒有智能，只有大腦-神經系統和社會信息系統擁有智能。目前計算機實現的只是功能上的類智能，達到一定程度地智能化，距真正的智能似乎還很遙遠。雖然如此，計算機僅是類智能的半自主信息系統，就已經使人類社會產生了跨越式的改變，那麼可以預見真正人工智能實現的時候，必定會產生更深遠的影響。

進化的動因——突發與偶發​

DNA突變會產生進化。

大腦突發奇想、偶然的靈感會形成創新。

在社會中，偶然事件、意外發現會推動科技的進步，歷史上有很多這樣的事例。

突發與偶發事件推動了事情的發展，這是自然界普遍存在的現象。信息系統的出現將突發偶發機制化並放大了。

大腦有意識地集中思想在某些方向、領域來尋找靈感和突破，這極大的推動了信息系統的進化效率，相比之下DNA的突變隨機多了。

社會中，科學技術崛起被人們重視，建立起各種觀測站、實驗室等科研機構，這讓偶然的科學發現機制化，效率提高了很多。

突發與偶發推動了DNA、大腦-神經系統、社會信息系統的進化，是進化的核心推動因素。

突變從另一個角度來説，是信息系統出現的錯誤。DNA突變就是複製中出現的錯誤。同樣，大腦產生的新思想中有很多也都是錯的，需要進行篩選。這也廣泛存在於科學研究中。

經典計算機按照人們的指令運行，很聽話，極少犯錯。它產生不了突發或者偶發信令，無法實現自主演化，實現不了真正的智能，做不到像大腦那樣的普適性。

有新聞介紹，量子計算機在運行中有相當比例的錯誤率，這裏的錯誤會是實現計算機普適性的關鍵，但前提我們要找到駕馭它並進行信息篩選的方法。這將是通往人工智能的必由之路。

真正的人工智能必然是個黑箱

DNA能夠自主演化是因為突變。

大腦能夠生成新的信息概念，形成自主信息活動，是因為偶發信令，如靈感、突發奇想、偶然的念頭等。

偶發與突發事件的關鍵不在於是否能夠發生、概率多少，而在於何時發生是未知的，不確定的。這就是其黑箱特質。

從還原角度講，只要一直往下溯源，總能找到前因後果，但是下層的因何時能產生上層的果是不確定的，比如複雜科學中的湧現。

寵物、小孩經常會有一些新奇的想法，不聽話的行為，這就是其偶發信令的體現，這也是人們創新的源泉。大腦是自主的、智能的，但同時它也是個黑箱。

未來，能產生偶發信令，實現自主的人工智能，必然也是如此，要麼整體都是黑箱，要麼至少部分區域是黑箱，否則哪來的自主和創新。

突發與偶發本身就意味着黑箱。

機器人三定律的矛盾

機器人三定律提出以來，倍受人工智能愛好者的推崇。其背後矛盾的地方，似乎被忽視了。

機器人三定律是軟約束，而不是硬約束。這就像法律條文規定，官員不能貪污，但還是會有人貪污。機器人若擁有了智能，其思想行為是自主的，我們無法對其信息系統設置硬性約束， 更大的可能也是設置法律規則和懲治條款，對違反規則的個體加以懲罰。

需要強調的是，當前的計算機還沒有實現真正的智能，僅僅是半自主，沒有偶發信令，這樣的計算機是可以通過代碼把程序寫死，成為硬約束。未來如果實現了真正的智能，計算機能夠產生偶發信令，那麼它會有更好的創造力，也會變的不那麼聽話，就像家中小孩或者小貓小狗那樣，既會有奇奇怪怪的想法、行為，也會有不聽話的時候。這是大腦的基本特性，人工智能為什麼不呢。

另外很重要一點，是否會對人或者機器人帶來傷害，本身就是模糊的。是否有傷害，對哪些個體有利，對哪些個體有害往往是不明晰的，更多時候面臨的選擇是對一些個體有利而另外一些個體是傷害。對於人來説，在於選擇，對於機器人也是如此。

未來若出現人機共存的社會，機器人三定律背後更應該是一整套法律制度，軟約束根本無法避免機器人傷害人，懲戒制度是必要的。能做到的是降低傷害，而無法做到完全避免傷害。

只是將來，機器人能夠傷害人這個事實，人們如何接受會是個問題。

 意識上傳的悖論

假如自我意識可以上傳到計算機，或者其他載體，那麼其產生的意識活動，是屬於載體的，還是屬於本體的？計算機做出的選擇還屬於我做出的選擇嗎？

大型計算機上虛擬人、虛擬社會，其中的虛擬人仍然是沒有意識的，計算機僅僅在模擬其行為，做出決定的仍然是計算機，而不是虛擬人。這是計算機的意識，而不是人的意識。

大腦意識活動會伴隨着記憶，若從這點講，意識應該是無法脱離信息系統自身的，遠程遙控的意識主體並未改變。

更大的可能，意識上傳又是一個永動機那樣的幻想吧。

現在我們仍然沒有弄清意識的機理。