谷歌突失Hinton！深度學習之父警告AI風險，對畢生工作表示遺憾_風聞

　　楊淨 明敏 發自 凹非寺

　　量子位 | 公眾號 QbitAI

　　Breaking News！

　　深度學習三巨頭、神經網絡之父Geoffrey Hinton已離職谷歌，結束十載生涯。

　　最新推文中透露了原因：為了自由地討論人工智能的風險。

　　消息一出，整個科技圈炸了，人們震驚於AI已經讓Hinton感到害怕了。

　　有網友直接懵住：到底發生了什麼？還是我漏掉了什麼？你不是曾説過GPT-4為人類的蝴蝶嗎？

　　不少人還認為Hinton此舉有待商榷，應該將關注人工智能安全工作常態化而不是離職。

　　甚至還有人勸他理解AI，而不是通過延遲研究來限制。現在潘多拉魔盒已經打開。

　　但Hinton的態度似乎十分堅定，在訪談中直言：對自己畢生的工作感到後悔。

　　而另一位巨頭LeCun這邊也表示，對Hinton的離職並不驚訝。

　　不少網友在底下已經開始就AI的各種問題尋求Hinton的見解：

　　你對開源AI有什麼看法？你覺得需要注意和避免的最大危險是什麼？

　　“對自己畢生的工作感到後悔”

　　據《紐約時報》消息，Hinton的離職是在4月提出的。辭職的理由一言以蔽之，是對人工智能風險的擔憂。

　　這種憂慮甚至讓這位深度學習之父表示：

　　我對自己畢生的工作，感到非常後悔。

　　我用一個藉口來安慰自己，如果我沒有這麼做，還會有其他人。

　　梳理來看，引發Hinton擔憂情緒的因素，有近期和遠期兩個方面。

　　先説近期影響，就是ChatGPT趨勢下的新一輪AI競爭。

　　在微軟將ChatGPT引入Bing後，挑戰了谷歌的核心業務搜索引擎，然後谷歌馬上推出了Bard作為應對。這讓Hinton覺得，谷歌似乎不再扮演AI“好管家”的角色了。

　　而且科技巨頭們正在掀起一場無法停止的角逐。由此帶來的影響，將是生成式AI生產出非常多真假難辨的內容。

　　而從長遠來看，Hinton認為，AI將會對就業市場造成巨大影響。如助理、翻譯等各行各業都可能被擾亂。

　　再進一步，AI或許也會對人類構成威脅。

　　因為個人和企業不僅允許AI生成代碼，實際上AI也有能力運行這些代碼。因此Hinton認為有朝一日那種具有自主能力的殺手機器人，會成為現實。

　　他表示，AI實際上可以比人類擁有更聰明的想法——一些人相信這一點。但是他沒有預料到人工智能的發展速度會像過去7個月那樣快。

　　我曾以為這需要30-50年之久，但是現在我不這麼想了。

　　這種想法，和之前十餘位美國人工智能協會專家聯名發出的警告，有些相似之處。不過在那時，Hinton並沒有參與這項活動。

　　據《紐約時報》消息，離職前，谷歌CEO桑達爾·皮查伊和他通過電話，但具體內容Hinton不願透露。

　　這場離職風暴中，谷歌研究首席科學家、谷歌高級副總裁Jeff Dean發表了一份聲明，表示：

　　我們仍會堅持對AI採取負責任的態度。我們在不斷學習理解新出現的風險時，也在大膽創新。

　　對於Hinton的離職，另一位深度學習三巨頭之一LeCun表示，Hinton並沒有和他透露要離開谷歌的打算，不過他對此並不感到十分驚訝。

　　OpenAI首席科學家是他學生

　　此番離職，或許對於Hinton來説，也是時候了。

　　ChatGPT、大模型讓全球對於通用人工智能的想象更加具象，其背後的安全與風險等問題也被搬上日程。

　　一直以來，Hinton對於通用人工智能抱有讚歎和期待。

　　早在GPT-3剛出爐，其他兩位圖靈獎得主LeCun和Bengio都持不看好態度時，Hinton卻表示，從GPT-3出色的性能可以推斷，生命、宇宙和萬物的答案“不過是4.398萬億個參數而已”。

　　直至ChatGPT出現時，他還將GPT-4比作人類的蝴蝶：

　　毛毛蟲提取營養物質，然後轉化為蝴蝶。人們已經提取了數十億的理解金塊，而 GPT-4 是人類的蝴蝶。

　　他驚歎其效果的同時也透露出不少隱憂。

　　RLHF機制是在培養一個超常的早熟兒。

　　而現在，隨着ChatGPT風暴席捲越來越多的行業，Hinton想要站出來承擔人工智能危機“敲鐘人”的角色，就已經到了關鍵時刻。

　　值得一提的是，在通用人工智能探索的最前沿，Hinton的學生們仍扮演着重要角色。

　　比如，現在OpenAI的首席科學家Ilya Sutskever。

　　****△左：Ilya Sutskever，右：Hinton；圖源：多倫多大學

　　當年，Hinton與他的兩位學生Ilya Sutskever和Alex Krizhevsky共同發明了卷積神經網絡AlexNet，拿下當時最權威的人工智能大賽ImageNet第一名，而且精確度是第二名的兩倍。

　　後來，他們還一起成立了公司DNNResearch，後被谷歌4400萬美元收購。

　　Ilya Sutskever擔任Google Brain的研究科學家，併成為後來AlphaGO眾多合著者之一。直至2015年底他離開谷歌，加入OpenAI擔任聯合創始人以及首席科學家。

　　好了，期待Hinton大佬的新動向，對於他此番離職谷歌，你怎麼看呢？

　　參考鏈接：

　　[1]https://www.theverge.com/2023/5/1/23706311/hinton-godfather-of-ai-threats-fears-warnings

　　[2]https://twitter.com/geoffreyhinton/with_replies

　　[3]https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html