《華爾街日報》：伊甸園中的人工智能

互聯網時代的黎明是如此激動人心。大約四分之一個世紀前，我帶着我那對蘋果電腦着迷的小學生兒子，去紐約參加了一場喧鬧的會議，聆聽史蒂夫·喬布斯的演講。那是何等的熱情。30年前在西部的一個研討會上，我參加了年輕、頭髮蓬亂的納森·梅爾沃德的講座，他當時負責微軟研究院，談到了正在發生的事情：歷史上一個新生事物正在誕生。

但一個微小而有趣的細節總是讓我停下來思考，並一直留在我心中。那就是，這個時代的偉大象徵從一開始就是即將成為最偉大公司的蘋果的標誌。那是一個大膽繪製的被咬了一口的蘋果。這讓我想起了伊甸園中的亞當和夏娃，亞當、夏娃與人類的墮落，在世界之初。上帝告訴他們不要吃那棵樹上的果子，但蛇告訴夏娃吃了不會有任何問題，她會變得像神一樣，知道一切。蛇説：這就是為什麼他不希望你擁有它，你會和他平起平坐。於是她摘下果子吃了，又給了亞當，亞當也吃了，兩人的眼睛就明亮了，第一次感到了羞恥。當上帝責備他們時，亞當責怪夏娃，夏娃責怪蛇。他們被逐出伊甸園，進入了我們居住的這個破碎的世界。

你可以將《舊約》中的這個故事視為神話、文學、真理詩或字面真理，但無論你如何理解它，其含義都是明確的。這是關於人類的驕傲和野心。提姆·凱勒認為這是人類古老的權力意志的一個例子。聖奧古斯丁説這是一個關於驕傲的故事：“驕傲不過是對不當提升的渴望？”

我一直認為蘋果公司的標誌：*這藴含着某種深意。*我們正通過它接收到某種信息。並非喬布斯刻意為之——沒有人會為一個新公司設計一個暗示"我們將走得太遠"的圖案。沃爾特·艾薩克森在其撰寫的喬布斯傳記中曾詢問咬痕的寓意。喬布斯回答這只是為了讓圖標看起來更協調，沒有這個缺口，蘋果就像顆櫻桃。

但我不禁懷疑，這個被咬了一口的蘋果或許印證了卡爾·榮格的集體無意識理論。人類個體有無意識，整個社會、部落和民族同樣擁有更廣闊的無意識領域，其中儲存着個體可能完全未察覺的原型、符號和記憶。這些深藏的意識終將以某種方式顯現。我認為喬布斯與禁果標誌的關係正是如此：他在無意中傳遞了某種信息。

對我而言，這個標誌始終是對這個時代的警示。當前人工智能的討論讓我反覆想起它——儘管"討論"這個詞並不準確，因為一方正激烈預警災難將至，而另一方並未正面回應，只是從容地用機器人踢足球的歡樂視頻來消解"盧德分子"的憂慮。

但發展AI就是咬下禁果。災難必將降臨。我相信那些創造、推動和資助AI的人——可能在無意識中——渴望成為上帝，並在某種程度上自以為就是上帝。最新發布的深思熟慮的警告報告用其專業語言強調了這一點。科技與AI投資者伊恩·霍加斯本週在《金融時報》撰文指出，若不加管制，他稱為"類神AI"的終極人工智能可能導致"人類被淘汰或毀滅"。他指出該領域多數從業者都清楚這個風險。但人們的警覺還遠遠不夠，他的同僚正"被快速進展的浪潮裹挾前行"。

無意識的動量以及人類的驕傲與野心正在推動事態發展。“很可能需要一場重大的濫用事件——一場災難——來喚醒公眾和政府。”

該領域的每個人都承認，不僅對人工智能的發展缺乏控制，而且根本沒有制定控制計劃。硅谷的創造者們掌握着主導權。他們對待工作的道德嚴肅性如何？機器智能研究所的負責人埃利澤·尤德科夫斯基在《時代》雜誌中指出，今年二月，微軟首席執行官薩提亞·納德拉公開炫耀他的新必應人工智能將讓谷歌“站出來展示他們能跳舞。我想讓人們知道是我們讓他們跳起來的。”

尤德科夫斯基先生表示：“在一個理智的世界裏，微軟的CEO不會這樣説話。”

我在此直言不諱地説，過去30年裏，我們不僅認識到了互聯網和高科技的嚴重負面影響——為利益而政治極化、故意助長網絡成癮、童年的毀滅、一個國家變得膚淺且思考能力下降——我們還認識到，那些創造這一切的遠見者，以及現在掌控人工智能的人，充其量只能説是值得爭議地令人欽佩或印象深刻。

你不可能花了30年時間閲讀關於他們的資料，聽他們講話，看他們的採訪，卻不明白他們半瘋半癲。比爾·蓋茨，他對自己的陳詞濫調充滿敬畏，分享他讀過的所有書籍來幫助你，可憐的傢伙，理解這個世界——人們懷疑他一生中除了偶然從未遇到過普通人，而且他總是發現新事物，因為內心深處他一無所知。眼神空洞的馬克·扎克伯格，他也用他那巨大且極具特色的慈善事業收買世界，這樣我們就看不到他內心那個謀劃、汗流浹背的上帝替代者。谷歌本身，其創立時的座右銘是“不作惡”，卻連這一樸素的願望都無法實現。

硅谷的男男女女在科技發明方面展現了近乎天才的非凡才華。但由於人類與生俱來的虛榮心，他們誤以為這種才華適用於所有領域。事實並非如此。他們並不特別睿智，思想也不深邃，正如我所説，他們的道德良知似乎發育不均。

這個新世界不能交由他們掌控。

每當我提出必須限制或停止人工智能發展時，話題總會立即轉向中國。但"我們不能停下——不能讓中國搶先！我們必須擊敗他們！“這樣的論調毫無意義。如果中國摘取活體器官進行移植，難道我們也要效仿嗎？（確實有人會贊同，其中不乏硅谷人士，但這恰恰證明不能任由他們毫無約束地發展AI。）

沒人願被稱作盧德分子，沒人想被貼上反進步標籤，沒人願被指責杞人憂天。

但我們不能因這些顧慮而不敢承認恐懼。但凡具備想象力——尤其是道德想象力的人，都會感到擔憂。這本該如此。

插圖：大衞·戈薩德刊載於2023年4月22日印刷版，標題為《伊甸園裏的人工智能》