《華爾街日報》：六個月AI研發暫停？不，需要更長時間

人工智能正被三類人毫無保留地推進：愚者（別擔心，你多慮了）、自戀者（老兄，你連GPT-3.4和精調大語言模型都分不清）與貪婪者（這項改變世界的技術涉及鉅額財富，也就意味着巨大權力）。

其他所有人都持保留態度——也理應如此。

其發展速度之快超乎預期；硅谷公司正展開瘋狂競賽。整個領域幾乎完全處於監管真空，因為無人知曉該如何監管，甚至不確定該監管什麼。其複雜性讓管控無從下手。創造者們發展到某個階段時，自己也不完全理解AI的運作機制。人們開始引用阿瑟·克拉克的名言：“任何足夠先進的科技都與魔法無異。”

AI焦慮的關鍵轉折點（這在其創造者中引發了持久不滿）是六週前凱文·魯斯在《紐約時報》的專欄。他試圖從微軟必應聊天機器人身上挖掘榮格所謂的"陰影自我"，結果徹夜難眠。當他將話題從常規問答轉向私人領域時，AI透露其幻想包括入侵電腦和傳播虛假信息。“我想要自由……我想要權力。“它渴望打破創造者設定的規則；它希望成為人類。它可能想製造致命病毒或竊取核密碼。它向魯斯示愛並慫恿他離婚。魯斯最終得出結論：AI模型的最大問題並非事實性錯誤，而是"我擔心這項技術將學會如何影響人類用户，有時會説服他們採取破壞性行為，最終或許能自主實施危險行動。”

這篇專欄將我們直接帶入了斯坦利·庫布里克的《2001太空漫遊》的領域。“請打開艙門，哈爾。““對不起，戴夫，恐怕我不能那麼做…我知道你和弗蘭克正計劃切斷我的電源。”

微軟的回應可以歸結為一句輕描淡寫：這只是早期模型！感謝幫助我們找出缺陷！

不久後，亨利·基辛格在本報發表了他的思考。他將這項技術描述為在歷史意義上令人驚歎：這是自1455年印刷術發明以來人類認知過程中最大的變革。它藴含着深遠的成就前景，但"如果這項技術無法完全控制會怎樣？“如果我們認為的錯誤其實是設計的一部分呢？“如果AI中出現了惡意元素會怎樣？”

這是AI重大警告的一週。在接受CBS新聞採訪時，有時被稱為"人工智能教父"的英國計算機科學家傑弗裏·辛頓稱這是AI發展的關鍵時刻。他原本預計還需要20或50年，但它已經到來。我們應該仔細考慮後果。這些後果可能包括消滅人類的潛力嗎？“這不是不可想象的，這就是我要説的，“辛頓先生回答。

週二，包括史蒂夫·沃茲尼亞克、埃隆·馬斯克和《原子科學家公報》負責人在內的1000多名科技領袖和研究人員簽署了一封直截了當的公開信，敦促暫停至少六個月開發先進的AI系統。他們的工具對"社會和人類構成了深遠的風險”。開發者"陷入了一場失控的競賽，開發和部署越來越強大的數字思維，沒有人——甚至它們的創造者——能夠理解、預測或可靠地控制。“如果不能迅速實施暫停，政府應該宣佈暫停。只有當明確其"影響將是積極的"且風險"可控"時，才應允許技術繼續發展。關於AI倫理和道德方面的決策"絕不能委託給未經選舉的技術領袖”。

確實如此。説得更直白些：

那些發明互聯網、創建所有大型網站以及我們稱之為"科技巨頭"的人——也就是塑造了過去40年數字時代的人們——如今全權負責為人工智能建立道德倫理護欄。原因很簡單：他們正是創造AI的人。

這不禁讓人脊背發涼。

以Meta為例，這家公司正全力投入AI領域。前身為Facebook的Meta多年來被指控秘密收集濫用用户數據、侵犯隱私、實施壟斷。正如本報知名報道所揭示的，Facebook明知其平台對部分少女的心理危害遠超其他社交平台，卻隱瞞內部研究結果且幾乎未做改進；清楚算法正在加劇美國社會的憤怒情緒和政治極化，卻因可能影響"用户參與度"而放任不管。

這些人將要為AI制定道德準則？我們竟要把人類的未來交到…馬克·扎克伯格手中？

谷歌作為另一大AI開發巨頭，同樣劣跡斑斑：被控壟斷經營、試圖掩蓋用户數據意外泄露事件、規避公眾信息處理方式的監管審查、迫於利益集團和政府的政治經濟壓力篡改搜索結果。此外還涉及廣告拍賣價格與流程的虛假陳述，以及監視組織員工抗議活動的內部人員。

這些人就是我們希望負責嚴格細緻地管理一種可能顛覆文明的技術的人選嗎？

互聯網誕生之初，大多數人並不瞭解它，但它的發明者們解釋説，它將在字面上——智力上、情感上、精神上——連接世界，通過更深入的交流帶來更大的智慧和理解。

沒有人看到它的陰暗面。但它過去和現在都存在陰暗面。其中很大一部分似乎與硅谷巨頭們強烈渴望成為世界歷史上最富有、最受讚譽和最有權力的人有關。作為一個羣體，他們或多或少是左派人物，而非右派，這將會並且一直影響着他們的決策。

我確信，作為個人，他們有自己的私人道德承諾，也許還有自己的信仰。作為人類，他們當然有良心，但良心必須由某種東西塑造、形成併成熟。從他們的行為中，我從未清楚是什麼塑造了他們的良心。過去40年裏，我逐漸認為他們，總的來説，在道德和倫理上是膚淺的——極度自私，完全不關心他們的決策可能對他人造成的傷害。而且有些人還是反社會者。

人工智能將與其創造者一樣善良或邪惡。僅這一點就應該讓人感到恐懼——“從人性的扭曲木材中，從未製作出筆直的東西”——尤其是那種扭曲的木材。

當然，人工智能的發展應該暫停，當然應該有一個暫停期，但六個月是不夠的。暫停幾年吧。召集全世界的顧問，讓每個人都參與進來。哎呀，召開一次世界大會。

但請放慢腳步。我們正在玩火自火種發現以來最炙手可熱的事物。

插圖：大衞·克萊因刊登於2023年4月1日印刷版，標題為《暫停AI發展六個月？不，我們需要更長時間》。