AI是千年蟲危機，只不過這次是真的——《華爾街日報》

最近一次聚餐時，有位熟人説了一句發人深省的話。我們像所有樂天派悲觀主義者那樣，討論着21世紀究竟是從哪裏開始走偏的。這個世紀已過去近四分之一，整體輪廓與特質已然成型，而在我看來，除了醫學與科學領域的進步，這個世紀乏善可陳。他説自己正在研究一個理論：21世紀至今猶如一場反向的"千年蟲危機"。

1999年12月31日，全世界都陷入恐慌，擔心當時分23:59:59跳轉為0:00:00時，所有強大的計算機系統都會崩潰。它們可能無法順利過渡到2000年。整個系統將出現短暫故障，燈光隨之熄滅。但這一切並未發生。人們發明了補救措施，或許正是這些措施挽救了局面。

這位熟人表示，恰恰是2000年之後，全球計算機系統開始在社會、文化和政治領域製造混亂。卻鮮有人擔憂、關注或採取防範措施。畢竟千年蟲危機平安度過，這次大概也會沒事。我們被動接受了所有技術淤泥——那些旨在分裂人類、向兒童傳遞有害信息、讓他們對產品上癮的算法——毫無警覺。

如今我們正以同樣的被動態度接納人工智能，寄望於它承諾的福祉（又是在醫學和科學領域）能抵消其嚴峻而明顯的威脅。今年早些時候，亨利·基辛格就曾在專欄中警示過這種威脅。“如果這項技術無法被控制會怎樣？“他與合著者設問，“如果人工智能滋生出惡意元素會怎樣？“基辛格是偉大的外交家與歷史學家，卻有着藝術家的想象力。人工智能與核戰爭可能性是他晚年最關注的兩大議題。他對整個現代科技巨獸的走向憂心忡忡。

我曾寫道，這個時代的偉大標誌——蘋果公司的標誌（那個被咬了一口的蘋果）在我看來，無論是有意還是無意，都表達了參與現代科技世界發展的人們在某種程度上意識到，他們的努力正將我們帶回伊甸園，回到夏娃和亞當偷食禁果的關鍵時刻。蛇告訴夏娃，他們將變得像上帝一樣全知，實際上與上帝平等，這就是為什麼上帝不希望他們擁有禁果。她咬了一口，人類便被逐出美好的花園，被拋入殘酷的粗糙世界。我相信，那些創造、推動和資助人工智能的人，可能無意識地想要成為上帝，並在某種程度上認為他們就是上帝。

許多人已經警告過人工智能的破壞性可能和能力，但《紐約客》最近一篇關於傑弗裏·辛頓的文章中有一些重要的思考。傑弗裏·辛頓被稱為人工智能的教父。這篇由約書亞·羅斯曼撰寫的文章寫得非常精彩，思考深入。

75歲的辛頓先生是圖靈獎得主，曾在多倫多大學擔任計算機科學教授30年。他研究神經網絡。後來，他創辦了一家小型研究公司，該公司被谷歌收購，他在那裏工作直到今年早些時候。離開後，他開始警告人工智能構成的“生存威脅”。他越使用ChatGPT，就越感到不安。他擔心人工智能系統可能會開始獨立思考；它們可能會試圖接管人類文明，或者消滅它。

辛頓先生告訴羅斯曼先生，在他早期研究階段曾目睹過一個"受挫的人工智能”。那是一台連接着兩台電視攝像頭和一隻機械臂的計算機。系統被要求組裝桌上散落的積木。它嘗試了，但僅能識別單個積木。面對一堆積木時它陷入了困惑。“它微微後縮，然後猛地**撞了過去”，把積木撞得四處飛散。“它無法處理當前狀況，於是用暴力改變了局面。”

辛頓先生表示並不後悔自己的研究，但擔憂當權者會如何運用AI。弗拉基米爾·普京可能會製造"自主致命武器”——一種能自我決策的殺人機器。辛頓認為這類武器應被明令禁止。但即便是善意的自主系統也可能具有破壞性。

他認為人類對待AI有兩種態度：否認或堅忍。當人們首次聽説其毀滅潛力時，總説這不值得冒險，必須阻止。但阻止只是幻想。“我們需要思考的是，如何讓人工智能對人類的危害儘可能減小？”

羅斯曼先生追問：為何不直接拔掉電源？AI依賴巨型服務器和數據中心，這些都需要電力維持。

很高興看到這個問題被提出，因為我也曾有此疑問。

辛頓先生表示，質疑沒有AI是否更好是合理的。“但這不可能實現。因為社會運作方式如此，也因為國家間的競爭。“如果聯合國有效運作或許能阻止，但中國絕不會停下腳步。

我發現，AI愛好者們常掛嘴邊的這一論點更像是一種辯解而非深思。如果中國開始以獵殺兒童為樂，我們是否也要效仿？（讀到這裏的硅谷人士，請説不。）

最令我深感不安的是，如果美國在AI領域全速前進，就等於將人類命運交到硅谷精英手中——正是這羣人創造瞭如今充斥着污濁的互聯網。他們存在某種根本性的缺陷，是種新型人類，智慧深邃卻狹隘，滿口連接與共情，內核卻冰冷徹骨。他們似乎與千年來的偉大信仰割裂，與傳統道德倫理體系及生命認知脱節。C.S.路易斯曾言，帝國興衰、文化更迭，但今晨為你斟咖啡的服務員是永恆的，因其靈魂不朽。這般思想多數讀者耳熟能詳，卻會讓硅谷精英困惑眨眼。他們超前得近乎異類：有人為求長生注射20歲青年的血液，有人奉行極端斷食。《華爾街日報》今夏報道硅谷高管們將常規吸毒從下班後的消遣徹底帶入企業文化，視致幻劑（氯胺酮、迷幻蘑菇）為"商業突破的鑰匙”。

當然，務必要把世界命運託付給這羣人。他們可不算穩重。38歲的OpenAI掌門人薩姆·奧爾特曼上週戲劇性被炒，數日後復職，至今無人確知緣由。公眾本應享有知情權。有傳聞稱某份內部備忘錄向董事會警示了危險的AI新進展，但重要投資者矢口否認——這倒讓我安心不少。

我們正將人類的命運交到無力承擔之人手中。必須像對待真實的"千年蟲"危機那樣高度重視。

1999年12月16日，加州塔爾扎納一家出售"千年蟲"生存裝備的商店圖片來源：Myung J. Chun/洛杉磯時報 via Getty Images刊載於2023年12月2日印刷版，標題為《人工智能是真正的"千年蟲"危機》