瞬雨：莫將AI算法誤認為人類意識

近日人工智能領域發生一件趣事。美國谷歌公司一名研究員與名為LaMDA （對話應用語言模型）的AI“聊出了感情”，他相信AI產生了自我意識，不僅有恐懼等人類才有的感情，還能與人類進行哲學思辨。

LaMDA從互聯網攝取數萬億的詞彙來模仿人類對話，是谷歌基於其最先進的大型語言模型構建聊天機器人的系統。毫無疑問，這是一個了不起的探索，但這名研究者的觀點釋放出一個危險的傾向：人類將有可能陷於與虛擬角色的交互中難以自拔。

該研究員建議公司“應致力於發展一種評估AI感知/意識的理論框架。”對此，我們可以理解為，他希望建立一種更高階的圖靈測試。圖靈測試是英國科學家圖靈提出的思想實驗，測試機器能否表現出與人一樣的智能水平。但很多人拿它來為AI意識作基本辯解，是走上了歧途。圖靈測試認為，讓機器冒充人類與人對話，如果人無法分辨對話對象是人還是機器，那麼可以判定機器具有智能。但這不能與機器產生了人類意識畫等號。比如，當下的電影工業已經能夠製作各種眼花繚亂的特效，包括星際場景、災難和戰爭場面、各種擬人化的動物表情和行為。作為觀眾，是僅僅樂而觀之，還是大驚小怪地把這些東西當作真實世界的存在？

那名研究員僅僅依靠幾段擬人的對話，就斷定AI有了人類的意識，是荒謬的。出於共情的本能，人類總是習慣將周圍的東西擬人化，哪怕這些內容是自己預設的。我們可以把人類跟AI的對話當成左右手互搏的消遣，或者對鏡自語的遊戲，只不過因為機器對手的參與和AI的加持變得更加有趣而已。

從1995年發行的暢銷遊戲《命令與征服》開始，每一個在即時戰略遊戲中跟電腦對戰的玩家，都可以切身感覺到自己正與一個身經百戰的統帥帶領的千軍萬馬作戰。而實際上我們都知道，這些軍隊和有意識的統帥根本不存在。幾年前，圍棋AI就能把九段棋手殺得片甲不留，但柯潔不會產生對手是人的錯覺。那名研究員的工作對象本身就是一個能力強大的語義AI，它能反饋出禪宗偈子式的妙語，只能證明其背後算法的高超。有人強調，研究員與AI對話的內容遠超出我們對機器的期待。其實，同樣以圍棋AI為參照，人類不需要把所有定勢都寫成算法教給AI，它會自己去學習、總結、探索。但這些行為背後的方法論仍是人類給它的算法，跟意識產生毫不相干。

這件事也折射出一部分人狹隘的意識觀和機器觀。有些神經科學家認為“精神是平的”。在他們看來，每一次精神活動都是神經系統的即時創造，是對來自外部世界輸入信號按規則經過處理之後的輸出，而不是潛意識的藝術作品。既然如此，那麼只要對人類大腦解剖足夠細節，實驗足夠深入，總能用機器複製出一模一樣的功能，意識自然就由此產生。然而，精神分析科學早就認識到，人每一刻的反應跟情緒，都不是即時的輸入輸出，而跟深層的無意識結構息息相關。2020年上線的科幻劇集《上載新生》之所以深受歡迎，就是因為很多人願意把人當機器，把記憶當芯片存儲，把意識當機器反饋。這種觀念背後，其實是部分人為解決自己的死亡焦慮所建立的一種防禦機制。

中國科技公司推出了AI數字人“度曉曉”，“她”在今年高考作文中的優異表現引發關注，但仔細研讀會發現，“她”寫出來的文章是作文套路的完美疊加，體現的始終是背後強大的算法能力。相信在不遠的將來，很多無須創造只靠機械勞動的工作角色，將被高效的AI機器人替代。

作為人類文字創意的高效助手，就是“度曉曉”們的存在價值。在未來，我們可以繼續提高AI的水平，讓它更貼心高效地服務於人類。但膚淺地把AI的行為表現視作意識的產生，無疑是幼稚可笑的。（作者是技術經濟觀察家）