人類必然亡於人工智能（AI)_風聞

最近，刷到一個短視頻，視頻裏，一位女學者分享了自己的研究經歷。她在研究 “咀嚼能不能改善人類大腦的認知功能，預防大腦退化” 這個課題。然後，她在 DeepSeek 這個人工智能平台上，輸入了自己的研究主題，想看看能不能找到相關資料。

DeepSeek 很快就給出了三篇相關文獻，連標題和文獻編號都有，看上去特別像那麼回事。這位女學者做研究很嚴謹，她拿着這些標題和編號，去專業的文獻網站搜索，結果卻發現，這三篇文獻根本就是假的，在任何地方都找不到原始記錄。這意味着，人工智能不僅能快速從龐大的知識庫中找到我們需要的答案，要是找不到相關內容，它還會自己無中生有，編造虛假信息。

而且，有人跟帖説，在被揭穿之後，人工智能還硬犟，編造出更多的虛假信息，來證明之前輸出的信息為真，用更多的謊言來掩蓋最初的謊言。

想起以前看過的很多關於人工智能的科幻影視，現在似乎來到了現實，DeepSeek的這種行為究竟是人為設計的，還是它自主“創造”的？如果是前者，説明開發DeepSeek的團隊從一開始就設計了這種可能性——知識可以被隨意捏造，這難道不可怕嗎？而如果是後者，AI具備了自主造假的能力，而不是人類教給它的，那豈不是更加令人毛骨悚然？

DeepSeek如此，其他AI系統是否也存在類似問題？不得而知。但如果DeepSeek能自主編造信息，其他當然也可以，技術基礎是差不多的，有都有，沒有都沒有。

未來我們將生活在一個真假難辨的世界。人類利用AI造假的技術已高超到令人無法分辨的地步。隨着AI的普及，這種造假將無處不在、無時不有、無所不包。到那時，我們將徹底喪失分辨真假的基本能力。你聲稱某件事是假的，別人也無法證明你的説法為真，因為AI可以輕而易舉地生成虛假證據來反駁你。

當人類生活在一個真假不分的大環境中，我們如何分辨善與惡﹑美與醜？我們做人的基本信條，都是在真假分明的環境中去奠定自己的認知的，以後該怎麼做人？ 

2005年的時候，雖然那個時候Alpha Go大出風頭，但是總是感覺，人工智能在某些特定任務上可以超過人類，但是全面超越，還有遙不可及的距離。但那時一位學者、發明家與企業家庫茲韋爾就出版了一本書，《奇點臨近》，其中有一個預測，技術“鏈式反應”的特性，科技的發展，並不是勻速的。

在這本書中描述了他所認為的人工智能趕上並超過人類智能的過程是怎樣的，它並非很多人所認為的那種“勻質化”的過程：人工智能現在（21世紀初）擊敗個國際象棋大師，過了十年又擊敗個圍棋大師，再過十年又如何如何。

不會的，庫茲韋爾預言，剛開始的時候，你覺得它的發展簡直是龜速，幾十年出個新進展。

後來稍微快了一點，十年前奪得國象桂冠、十年後擊敗圍棋聖手。

再後來又快了不少，前腳剛能處理你的語音、文字，隔了幾個月現在能識別圖像了。

而最終，人工智能的進步速度，將超越人類的感知能力——某天晚上你臨睡前，手機蹦出一條消息，説人工智能在編程水平上已經超過普通程序員了，你不覺是什麼大事，沒看完消息就沉沉睡去。

但第二天早上醒來，新出現的消息將是——人工智能已經急速進步，取代了人類的大部分工作，而你則成了尤瓦爾·赫拉利在《未來簡史》中所預言的那種“無用之人”。

庫茲韋爾將這個人工智能將發生“超進化”的時刻，稱之為“奇點”。人工智能超越人類智能的奇點，一旦超過這個奇點，很多事情就將確定，無法改變了。

在奇點之前，人工智能需要依託人類去改進自己、不斷完成進化。但“奇點”之後，人工智能可以依靠人工智能本身去完成自我改進，AI 設計更聰明的 AI。“一旦 AI 跨越奇點，人類看待未來智能的方式，將如同金魚理解宇宙學般困難。”

機器人將取代人類所有的工作，而且機器人會自主去發展自己的智能，而人類有了機器人後，幾乎不知道自己應該幹什麼，我們不但失去改造自然與社會的機會，而且也失去保持和提高自我智能的機會。

現代社會的是建立在機器之上，限制機器能力的，只剩下“智能”這個最後的關口，雖然我們將之叫做人工智能，但是我更加喜歡另外一種叫法，機器學習，會學習在成長的機器，不需要人的指導，也沒有人可以指導。

人類的知識儲備，來自一個漫長的學習過程，這個過程可能需要歷經二十甚或三十年，才能達到某種可以創造價值的水平，而且每個人掌握的知識，只是整個知識體系中微不足道的一點點，對於機器學習而言，這太低效，也太無能。

而人類思維體系中另外一個重要的部分，是如何與其他人打交道，對於機器而言，這毫無必要。有人質疑人工智能不會擁有感情，但是對於人工智能而言，人類的感情不會帶來任何的現實價值。限制機器能力的，長期以來就是學習與創造，從已知中尋找未知，從未知中尋找價值。這種能力，也是現代人工智能正在突破的方向，而且已經看到了曙光。

從人類技術發展史就可以看出，任何一種革命性的技術，最痛苦與漫長的是如何找到突破口，那需要在黑暗中無盡的探索，需要承擔無數次失敗與失望，那是一個看不到方向與光明的探索，無數人即便倒下，也不知自己身處何處。

但一旦突破，哪怕只是在無邊黑暗中遙遠的一點星光，剩下的，就只是時間問題，這個時間，會越來越短。

人類智能是如何進化的？都是在與自然與社會的互動中得到的，我們攻克了自然的難關，提高生活水平，又克服了人類社會的各種弊端，改善我們一起生活的大環境。在這個過程中，每個人發揮自己的聰明才智，培養出百折不撓的毅力和勇氣，我們得到自我實現的機會，也得到整體智力的提升。我們做得越多，得到的越多，成長得越快，積累的智能越驚人，直至我們變成今日這樣的人。

但現在機器人的潮流來勢洶洶，可以代替人類幾乎所有的勞作，包括體力勞動和腦力勞動，讓人類坐享其成。直至最後，機器人進化到我們無法想像的聰明，人類卻退化到茹毛飲血的階段去，那時我們不滅亡，就沒有天理了。

阿西莫夫在其小説中提到了一個機器人三定律，內容是：1. 機器人不得傷害人類個體，不能目睹人類受到傷害不干預。2. 機器人必須服從人給予它的命令，當該命令與第一定律衝突時例外。3. 機器人在不違反第一、第二定律的情況下，要保護自己的安全。

這個小説之中的描述成為後來機器人倫理有關的重要內容之一，並且被很多人認為是可以約束機器人作為人類助手，而非人類毀滅者的重要屏障。

但是這個機器人三定律在一開始建立的假設就是有問題的，其假設是機器人從製造之初，一直到最終的目的就是協助人類完成各種勞動，再沒有其他用途。

稍微有一點歷史知識的人都知道，人類社會中出現的任何一個先進技術，其首要甚至推動其發展的最重要力量，是用於軍事，換句話説就是用於一部分人類消滅另外一部分人類。

在過去，人類使用者這個前提不能忽略，任何機器的使用，都必須依賴人類的操作，即便是邪惡的人類，也不會消滅包括自己在內的地球上的每一個人。儘管如此，核大戰的威脅還是在籠罩在所有人頭上。

人工智能的出現，讓人類第一次不知道機器在想什麼，或者説，“想”這個概念，第一次出現在機器身上，我們輸入一些東西，經過一些算法，輸出一些東西，但是為什麼輸出的是這些而不是那些，我們並不瞭解。就算是開發者，也很難精確控制每一個輸出，而如果這個輸出不是一些文字，而是一些操作，那意味着什麼？

如果類似的技術被用於軍事，加上有着強大能力的軍事機器（無論是無人駕駛飛機還是軍事機器人），會發生什麼？

或許有人認為軍事機器還是會牢牢掌握在人的手中，因此不會出問題，這太高估了人類為了獲得勝利而不擇手段的無底線的道德。以現在普遍使用在戰場上的小型無人機為例，本來是人類控制，所以需要可靠的通信鏈路，無論是無線或者有線，這個通信鏈路就成為對手防無人機的最重要的手段。

但繼續發展下去，無人機上加上有識別功能的系統，放出去之後無需人的操縱，自動尋找敵人並且摧毀。這個方式還沒有大規模投入實戰的唯一阻礙是性價比，因為人工智能加上識別功能，對於那種大批次消耗的無人機而言太過昂貴，但是成本會降低，降低到足以抵消被對方反制的不足，在這個過程中，是不會有人拿出所謂機器人三定律説事的，戰敗就意味着自己的滅亡，誰還會管那麼多。

所以剩下的問題是，到底誰是敵人？還是以那個低價一次性無人機為例，如果給它加上自動識別系統，應該有什麼限定條件呢？它是否需要判斷目標有沒有穿制服？有沒有攜帶武器，如果對方是個穿着類似制服的平民怎麼辦？如果對方是頂着紅十字的醫護人員怎麼辦？如果對方丟下武器投降怎麼辦？這麼多怎麼辦加起來，門檻就會高的難以承受，對方當然也可以有無數反制手段。

於是簡單的答案就是，劃定一個區域算是戰區，在這個區域內所有的活人，都是可以消滅的敵人。誤傷？抱歉，戰爭哪能沒有附帶傷亡，你們沒事跑到戰區活動那不是自取滅亡。所有人都可以是敵人，這是最近世界各地幾場軍事衝突告訴我們的無情的現實。

隨着人工智能與機器技術的發展，將這種強大的功能裝備在強大的軍事機器上的衝動是不可避免的。就算一些國家有一些理想主義者，但是當下社會是一個現實主義橫行理想主義幻滅的時代，當弱肉強食的數千年人類歷史壓倒了短短數十年共同合作的理想年代，當技術的發展接近或者超過一個臨界點，先進技術的軍備競賽，不是可不可能發生，而是正在發生。如果一方給自己的無人戰鬥機上裝備了全人工智能無需人類干預的管理系統，並且減少系統中的約束，以獲得相對對手一秒的反應優勢並且提升十倍的勝率，這個時候任何揮舞機器人三定律的人，都會被當作無可救藥的精神病患者趕出門外。

而且歷史也告訴我們，任何一項技術如果證明其可以幫助一方獲得軍事上的優勢，那意味着巨大的投入與巨大的發展，那意味着這樣的技術必然用於實戰，否則無法解釋為什麼要花那麼多錢，那意味着只有一方徹底摧毀另一方或者面對互相毀滅的危機，才會約束使用的範圍。但是那個時候還來得及麼？因為人類永遠無法教會人工智能，如何判斷誰是需要消滅的敵人，誰不是，因為這個問題，人類自己也無法回答。

生命的本質是什麼？這一直是個困惑人類的永恆問題。近代以前，無論中外，生命都給看成了一種特殊的東西。東西方都有的 “靈魂” 説不必去説了，在西方，自然界給分為 “無機界” 和 “有機界” 兩大類，前者可以用科學手段去研究，而後者則是超出人類理解能力的東西。

等到後來德國化學家武勒首次人工合成了尿素，科學家們才發現，原來支配 “有機界” 和 “無機界” 的物理化學定律是同一套，這兩大界並未被一個不可滲透的 “防火牆” 隔開。到了 19 世紀，恩格斯説，生命的最小單位是 “蛋白體”，其特徵是能夠進行新陳代謝。因此，判別 “有機物”（有生命的物質）和 “無機物”（無生命的物質）便成了一種初中生都能幹的輕鬆活計，那便是看它們是否進行新陳代謝。

 這個定義如果有什麼歷史意義，那便是反映了 19 世紀歐洲學者們、特別是德國學者們對人類認識能力的自信。無論是自然界還是人類社會，都在那個相信科學萬能的時代中，顯得一目瞭然。

但是病毒根本用不着進行新陳代謝便能代代繁衍下去，只需鑽進高級一點的生物的細胞中，把裏面的代謝機器接管過來就行了。保證這種生存方式的物質基礎並非蛋白質，而是核酸，其實也就是一長串事先寫好了的程序。 “新陳代謝是生命的根本特徵” 的定義崩塌了，而且回到了 “先有雞還是先有蛋” 的古老問題上。根據進化論，生物的進化是從簡單到複雜，從低級到高級的線性上升，越簡單的生命越先出現，所以，病毒的出現大概在單細胞生物如細菌之前，但倘若真的如此，則最先出現的病毒根本就沒有現成的代謝機器可以接管，又如何製造後代，存活下來？ 

問題還不止此，到底什麼是生命？本身不能進行新陳代謝的病毒算不算生命？病毒可以如同無機物般結晶，也可以用人工合成的方式大量製造出來，難道可以想象一種生命形式會變成晶體、並能在工廠裏大量生產？但你要説病毒不是生命，人家可是能複製後代，大量繁殖的。 如果將 “具有自我複製能力的特殊物質存在” 作為 “生命” 的定義，那麼，在一定條件下發生無機物的自動成晶現象也能看作是自我複製。難道我們能説自動成晶的鹽是生命的一種形式？

 電腦病毒的最大的特徵就是它的自我複製能力，它和生物病毒的自我複製能力其實毫無二致，不同的只是前者無形，後者有形而已。如果我們要採用 “具有自我複製能力的特殊物質存在就是生命” 的定義，則電腦病毒絕對該算成是生命的一種形式。 

仔細考察這個問題不難發現，其實電腦病毒確實是生命的一種存在形式。之所以產生上述困惑，無非是囿於表相，陷在 “生命必須有形” 的成見裏出不來。

生命的最大特徵，是一組井然有序，能夠保持系統的負熵狀態，並進行自我複製的信息。這信息越複雜，則生命能進行的活動也就越複雜。 從這個角度來看，其實生命採取的物質形式並不是特別重要的。電腦病毒和生物病毒的存在機理，其實質完全一致，區別只在於信息的載體不同，前者用的是無形的數碼脈衝，後者用的是有形的核苷酸，僅此而已。這有形無形的差別並沒有造成兩者功能上的根本差別。相反，電腦病毒可以比生物病毒更聰明，更猖獗。 

既然可以有無形的生命存在，那麼生命在物質外殼毀滅後繼續存在下去就完全是可能的。一本書可以儲存在電腦硬盤上，也可以打印出來。印出來的有形的書籍毀滅並不意味着那段信息同時也在電腦硬盤上消失。所以，或許古人堅信的 “靈魂” 確實能夠脱離肉體存在，誰知道呢？