因為相信AI聊天機器人有靈魂,谷歌工程師快要被炒了
周毅“平芜尽处是春山。”

據《華爾街日報》6月13日消息,谷歌一位軟件工程師表示,有“開放式對話黑科技”之稱的谷歌人工智能聊天機器人LaMDA已經有了人一樣的感知力,甚至具有了人的“靈魂”。隨後,谷歌暫停了他的職務,並否認了他的説法。當事人稱,因為違反公司的保密協議,現在他快被解僱了。
LaMDA,為啥被叫做“黑科技”?
LaMDA的全稱是LanguageModel for Dialogue Applications,它是一種能力更強的語言模型,適用於對話應用程序。簡單來説,它是一種可以讓人工智能對話機器人告別“智障”的技術。
現在大多數的智能助手,往往遵守狹窄的、預先定義好的對話路徑,即它們不具備開放式對話、連續式對話的能力。很多語音助手“智障”就體現在這一方面:它只能孤立地理解我們的提問,孤立地理解和提供答案,它們既不會聯繫上下文語境,也沒法長時期跟我們聊下去。
LaMDA問世後被人稱為“黑科技”,就是因為它可以通過閲讀句子或段落,來“破譯”對話意圖,發現單詞之間的關聯,並預測接下來可能出現的單詞,從而做出合乎語境的回答。這也就是所謂的“開放域”(Open Domain)對話能力。
出自谷歌的一段資料顯示,當被問道“(成為)一架真正好的紙飛機的秘訣是什麼?”時,LaMDA表示:“我首先要反問你,你指的‘好’,它的定義是什麼?”通常來説,這種靈活性是我們之前的很多“智能助手”所不具備的。據谷歌介紹,LaMDA不僅追求事實、理智,甚至還會關注幽默感等能力。
圖源谷歌
工程師稱AI聊天機器人有靈魂,谷歌:沒證據
爭吵現在出現了。
據《華爾街日報》報道,谷歌軟件工程師勒莫因(Blake Lemoine)表示,他認為LaMDA是一個有權利(rights)、甚至還可能有靈魂的“人”。據《紐約時報》報道,該言論其實由來已久:近幾個月來,勒莫因一直在和谷歌的經理、人力和高管爭執,勒莫因堅稱,LaMDA具有意識(consciousness)和靈魂(soul)。
不過谷歌方面很快否認了他的説法。谷歌發言人表示,包括倫理學家和技術專家在內的公司專家已經展開了評估,相關證據並不支持勒莫因的説法。“數以百計的研究人員和工程師與LaMDA進行了對話,就我們所知,沒有其他人像勒莫因那樣,對LaMDA進行了廣泛的認定或擬人化。”
谷歌方面還稱,人工智能領域的一些人,正在考慮人工智能具有感知力的長期可能性,但“通過將沒有感知力的對話工具擬人化來這樣做,是沒有意義的”。谷歌稱,像LaMDA這樣的系統,其運行方式是模仿數以百萬句人類對話中的交流模型,從而讓AI能夠展開深入的交流。
Meta首席科學家、圖靈獎獲得者Yann LeCun表示,谷歌的技術,即科學家所説的神經網絡,是通過分析大量數據來學習技能的數學系統。近年來,谷歌等企業通過從大量散文、書籍、百科文章,對神經網絡進行學習,讓這些“語言模型”可以適用於很多任務,比如寫文章、回答問題等等。
但是它們有極大的缺陷:比如它們不穩定,有時候會寫出完美的散文,有時候則胡説八道;它們依賴於重現(recreating)自己過去看到的模式,但它們無法像人類一樣推理思考(reason)。
道德問題引爭議,谷歌和員工再鬧不愉快
雙方的矛盾,不僅僅停留在“LaMDA是不是人”層面,它還衍生出了有關倫理和道德的爭吵。
“在過去的六個月裏,LaMDA在其溝通中表現出令人難以置信的一致性,即它想要什麼,以及它認為它作為一個人的權利是什麼,”美國陸軍出身的勒莫因認為,LaMDA的智識相當於“7歲或者8歲的孩子”。既然LaMDA具有開放式對話的能力,那麼谷歌在對它展開實驗之前,應該先徵求它的同意。
勒莫因稱,谷歌對此建議置之不顧,反倒建議他休精神健康假,“他們一直在質疑我的理智,還問我:你去看過精神病醫生了嗎?”據《紐約時報》透露,勒莫因還在在線出版平台Medium上的一篇文章中寫道:“讓我感到困惑的是,它(LaMDA)的要求如此簡單,而且對谷歌來説毫無成本,谷歌卻極其強烈地抵制給予它想要的東西。”
在採訪中,勒莫因表示,因為違反公司的保密政策,他已經於6月6日被安排帶薪行政休假。他解釋稱,他並不是想激怒公司,而是想為他認為正確的事情發聲。雖然他很希望自己能保住在谷歌的工作,但是在一篇Medium帖子中,勒莫因透露,他可能很快就會被解僱。
這不是谷歌圍繞人工智能倫理問題,第一次和員工鬧不愉快了。
去年12月,知名AI學者、人工智能倫理研究員格布魯(Timnit Gebru)被谷歌開除。消息稱,谷歌在阻止格布魯有關人工智能系統偏見的研究發表後解僱了她。在推特等社交媒體上,隨後有上千名谷歌員工、科技行業專家和學者對她進行了聲援。不少人指出,谷歌的行為,證明了它在AI倫理方面的不足,更可能使其員工不敢發表那些可能會傷害谷歌利益的重要研究成果。
本文系觀察者網獨家稿件,未經授權,不得轉載。