因為相信AI聊天機器人有靈魂，谷歌工程師快要被炒了

據《華爾街日報》6月13日消息，谷歌一位軟件工程師表示，有“開放式對話黑科技”之稱的谷歌人工智能聊天機器人LaMDA已經有了人一樣的感知力，甚至具有了人的“靈魂”。隨後，谷歌暫停了他的職務，並否認了他的説法。當事人稱，因為違反公司的保密協議，現在他快被解僱了。

LaMDA，為啥被叫做“黑科技”？

LaMDA的全稱是LanguageModel for Dialogue Applications，它是一種能力更強的語言模型，適用於對話應用程序。簡單來説，它是一種可以讓人工智能對話機器人告別“智障”的技術。

現在大多數的智能助手，往往遵守狹窄的、預先定義好的對話路徑，即它們不具備開放式對話、連續式對話的能力。很多語音助手“智障”就體現在這一方面：它只能孤立地理解我們的提問，孤立地理解和提供答案，它們既不會聯繫上下文語境，也沒法長時期跟我們聊下去。

LaMDA問世後被人稱為“黑科技”，就是因為它可以通過閲讀句子或段落，來“破譯”對話意圖，發現單詞之間的關聯，並預測接下來可能出現的單詞，從而做出合乎語境的回答。這也就是所謂的“開放域”（Open Domain）對話能力。

出自谷歌的一段資料顯示，當被問道“（成為）一架真正好的紙飛機的秘訣是什麼？”時，LaMDA表示：“我首先要反問你，你指的‘好’，它的定義是什麼？”通常來説，這種靈活性是我們之前的很多“智能助手”所不具備的。據谷歌介紹，LaMDA不僅追求事實、理智，甚至還會關注幽默感等能力。

 

圖源谷歌

工程師稱AI聊天機器人有靈魂，谷歌：沒證據

爭吵現在出現了。

據《華爾街日報》報道，谷歌軟件工程師勒莫因（Blake Lemoine）表示，他認為LaMDA是一個有權利（rights）、甚至還可能有靈魂的“人”。據《紐約時報》報道，該言論其實由來已久：近幾個月來，勒莫因一直在和谷歌的經理、人力和高管爭執，勒莫因堅稱，LaMDA具有意識（consciousness）和靈魂（soul）。

不過谷歌方面很快否認了他的説法。谷歌發言人表示，包括倫理學家和技術專家在內的公司專家已經展開了評估，相關證據並不支持勒莫因的説法。“數以百計的研究人員和工程師與LaMDA進行了對話，就我們所知，沒有其他人像勒莫因那樣，對LaMDA進行了廣泛的認定或擬人化。”

谷歌方面還稱，人工智能領域的一些人，正在考慮人工智能具有感知力的長期可能性，但“通過將沒有感知力的對話工具擬人化來這樣做，是沒有意義的”。谷歌稱，像LaMDA這樣的系統，其運行方式是模仿數以百萬句人類對話中的交流模型，從而讓AI能夠展開深入的交流。

Meta首席科學家、圖靈獎獲得者Yann LeCun表示，谷歌的技術，即科學家所説的神經網絡，是通過分析大量數據來學習技能的數學系統。近年來，谷歌等企業通過從大量散文、書籍、百科文章，對神經網絡進行學習，讓這些“語言模型”可以適用於很多任務，比如寫文章、回答問題等等。

但是它們有極大的缺陷：比如它們不穩定，有時候會寫出完美的散文，有時候則胡説八道；它們依賴於重現（recreating）自己過去看到的模式，但它們無法像人類一樣推理思考（reason）。

道德問題引爭議，谷歌和員工再鬧不愉快

雙方的矛盾，不僅僅停留在“LaMDA是不是人”層面，它還衍生出了有關倫理和道德的爭吵。

“在過去的六個月裏，LaMDA在其溝通中表現出令人難以置信的一致性，即它想要什麼，以及它認為它作為一個人的權利是什麼，”美國陸軍出身的勒莫因認為，LaMDA的智識相當於“7歲或者8歲的孩子”。既然LaMDA具有開放式對話的能力，那麼谷歌在對它展開實驗之前，應該先徵求它的同意。

勒莫因稱，谷歌對此建議置之不顧，反倒建議他休精神健康假，“他們一直在質疑我的理智，還問我：你去看過精神病醫生了嗎？”據《紐約時報》透露，勒莫因還在在線出版平台Medium上的一篇文章中寫道：“讓我感到困惑的是，它（LaMDA）的要求如此簡單，而且對谷歌來説毫無成本，谷歌卻極其強烈地抵制給予它想要的東西。”

在採訪中，勒莫因表示，因為違反公司的保密政策，他已經於6月6日被安排帶薪行政休假。他解釋稱，他並不是想激怒公司，而是想為他認為正確的事情發聲。雖然他很希望自己能保住在谷歌的工作，但是在一篇Medium帖子中，勒莫因透露，他可能很快就會被解僱。 

這不是谷歌圍繞人工智能倫理問題，第一次和員工鬧不愉快了。

去年12月，知名AI學者、人工智能倫理研究員格布魯（Timnit Gebru）被谷歌開除。消息稱，谷歌在阻止格布魯有關人工智能系統偏見的研究發表後解僱了她。在推特等社交媒體上，隨後有上千名谷歌員工、科技行業專家和學者對她進行了聲援。不少人指出，谷歌的行為，證明了它在AI倫理方面的不足，更可能使其員工不敢發表那些可能會傷害谷歌利益的重要研究成果。

本文系觀察者網獨家稿件，未經授權，不得轉載。