Hinton突然對AGI樂觀了！“Ilya讓他看到了什麼吧…”_風聞

明敏 鷺羽 發自 凹非寺

量子位 | 公眾號 QbitAI

Hinton突然對AGI變樂觀了。

對於AI，他幾周前還覺得是養虎為患，最新採訪卻改口説是一種母親和嬰兒之間的親密共生關係。

大多數專家認為5-10年後人工智能會比人類更聰明。

問題是更聰明事物被不聰明事物控制這種例子實在是太少了，可能政客和科學家之間是這種關係（笑）。

但是我知道唯一的例子是母親和嬰兒。

不過AI才是母親，人類是嬰兒。

我們不必去嘗試支配超級智能，應該是在設計之初就給它植入“母性本能”，這樣AI就會本能地希望我們幸福，從而實現共存。

對於AI的發展，也不必踩剎車，應該要引導正確發展方向。

這和他過去3年來對AGI的態度，幾乎是180度大轉變。

2023年，他為了警告AI風險，從在任10年的谷歌離職，就是以更中立客觀的角度向全世界佈道AI的利弊。

已經77歲高齡但仍舊奔走於全世界，呼籲人類可控地推進AI發展。就在今年7月的WAIC上，他還以“養虎為患”的例子在中國闡釋了AI風險。

才過去不到2個月就發生這樣的變化。難道是他看到了什麼？

也許Ilya向他展示了什麼？

如上最新觀點來自Hinton最新訪談，此外他還分享了AI發展的更多理解：比如有機會一定要警告馬斯克奧特曼、現在沒有1家AI公司足夠重視AI安全……

重新審視AI風險，但還是要噴馬斯克奧特曼

Hinton接受了來自著名記者Katie Couric的獨家訪談，整個對話過程長達近一個小時，核心探討的還是Hinton自谷歌離職後屢屢提及的AI風險。

Hinton將AI風險分為兩種：

短期風險

長期風險

他強調自己主要擔憂並非是短期內的濫用AI，當然這也很重要，而是人工智能本身接管人類的可能性。

在很多人眼裏，AI比人類聰明並接管整個世界，只是科幻小説的存在，但包括他在內的許多專家都認為，這其實是非常現實的長期風險。

也許就在未來的5到20年內，AI就會比人類聰明得多。

聰明程度的差異之大讓人類舉步維艱，要反過來控制比自己更聰明的智慧生物，Hinton表示他唯一知道的例子就是母親和嬰兒。

也就是説將AI設計成母親的存在，而人類將會是AI庇護下的嬰兒。

這和他在幾個月前WAIC上對人類和AI關係的認識，可以説是截然不同。

當時他將AI比喻為人類飼養的小虎崽，等待他長大，就能輕而易舉幹掉人類。

要杜絕這種可能性，人類要麼只能訓練它無法傷害人類，要麼就提前幹掉它。

後者顯然在當下是不現實的，我們的生活已經被AI完全滲透影響，那麼我們只能選擇引導AI。

朝什麼方向呢？母親和嬰兒。

在設計之初，就為AI賦予強大的“母性本能”，讓它們支持人類的成功，這樣即使未來有一天，它變得更加聰明、更加強大，也能很好地與人類共存。

這種全新的設計思路，也許將徹底改變傳統路徑上人類試圖統治AI的思維模式，成為一種普適性地訓練AI善良特性的方法，並在不同智能水平的模型上得以實現。

不過，Hinton在此前的上海之行交流中也提及，這是他所希望看到的，是值得去深入探究的可能性，但也可能無法實現。

這需要所有AI研發者一起通力合作，而馬斯克和奧特曼顯然不在此列。

Hinton表示，假如他有機會和他們兩人共處一室，那麼他會相當直白地説：

你們很清楚，你們正在發展的事業很有可能正在消滅人類。

Hinton點評了當下幾家AI公司在緩解風險上的表現，簡單來説沒有一家做的足夠好：

Anthropic：比其他家投入更多精力在AI安全但是也還不夠

OpenAI：初心是對的，但是現在已經變味了

Meta和xAI：在底層開發時都不關注AI安全

具體點就是，他認為OpenAI的初衷是安全開發AI，結果現在的重心卻偏移到如何讓AI更聰明，而不是如何讓它更安全。

奧特曼轉向快速開發AI的道路，讓Hinton乃至馬斯克都很反感，馬斯克此前還曾起訴奧特曼沒能履行最初的承諾。

不過馬斯克也是一丘之貉，Hinton指出，馬斯克自己在開發Grok的過程中，也沒有過多關注安全問題，馬斯克應該將他對待奧特曼的邏輯應用到自己身上。

而他們二人之所以這樣做，主要原因還是因為貪婪和自負，渴望通過AI攫取鉅額財富，並希望成為第一個創造出超級智能的人。

他們追逐的是創造超乎人類智能的興奮感，而非守護人類的責任感。

AI的正向作用看醫療，但是也會取代一些工作

AI應用落地這一方面，Hinton還是一如既往看好醫療領域。這一定程度上和Hinton的個人經歷有關，他的兩任妻子都死於癌症，因此他非常希望AI能在醫學領域有所突破。

總結來看Hinton認為值得關注的方面有5個：

醫學影像解讀

加速藥物研發

個性化和精準醫療

提升醫療系統效率

更高情感關懷

首先在醫學影像解讀上，Hinton覺得AI能比人類醫生獲取更多信息。

比如AI可以通過分析眼底（視網膜）的掃描圖像，就能準確預測一個人患心臟病的風險，甚至能判斷患者性別，這些都是人類做不到的。

他承認自己在2016年預測“AI將取代所有醫學影像醫生”這有點過於樂觀，但是他堅信這只是時間問題，未來AI輔助診斷將成為常態。

其次在新藥研發上，Hinton提到了DeepMind在預測蛋白質摺疊上的突破，蛋白質的3D結構決定了其功能，能夠準確預測對於研發與特定靶點相互作用的新藥至關重要。

比如在癌症領域，靶向藥物比化療這種傳統治療手段給人體帶來的傷害更小。這項技術也將催生一個全新的產業，為我們帶來一系列更有效的藥物（不過不是1-2年之內）。

然後在個性化和精準醫療方面。AI可以整合大量醫療數據（包括基因組信息、病史、病歷、家族病史），從而更好地實現疾病的早期診斷和個性化治療。

以及AI也能解決醫療系統管理問題，比如通過數據分析，AI可以幫助醫生更準確判斷患者應當何時出院，這樣能在確保患者得到充分治療同時又優化醫院牀位的使用效率。

最後他還提出了一個反直覺的觀點，一些研究表明AI在和患者交流時，比人類更有耐心、更具同理心，能提供更全面的信息和情感支持。

但是也不可否認，AI落地、提高生產力同時也將會導致一些人被取代。

在這之中一些職業將會面臨更高風險：客服、律師助理、程序員等，甚至作家、編劇這種創意工作者也不能完全避免。

事實上AI在所有事情上都會比我們強。我認為10年之後它能寫出非常精妙的劇本。

Hinton認為這些問題還會進一步加劇貧富差距等，不過這更多是社會問題，而非技術本身的問題。

好勝心極強的父親：我得諾獎他會生氣

最後訪談再次聊到了Hinton“顯赫”的學術家族。

曾曾祖父喬治·布爾 (George Boole)是著名數學家和邏輯學家，是布爾代數的提出者，布爾代數是現代計算機科學和數字電路的理論基石。

曾叔祖父塞巴斯蒂安·辛頓 (Sebastian Hinton)，兒童樂園裏常見的攀登架的發明者。

父親霍華德·埃弗里斯特·亨頓（Howard Everest Hinton）是英國昆蟲學家，英國皇家學會院士。

姑媽瓊·辛頓 (Joan Hinton)，中文名寒春，核物理學家，參加了曼哈頓計劃。

Hinton説他的父親是一位強勢、好勝心極強的人，對子女都有很高期待。

父親給他的“激勵”往往是：等你的歲數有我2倍大、且工作強度是我現在的2倍時，你的成就或許也就只有我的一半吧。

雖然這句話是半開玩笑，但是也給年少的Hinton帶來了很大壓力。

不過從現在的知名度來看，Hinton超越了父親。

所以，如果當父親知道Hinton獲得了諾獎，他會是怎樣的反應？

會非常高興，但又有點生氣，他確實非常好勝（笑）。

他會為兒子驕傲，但是兒子又獲得了他沒有的成就。

也是在這樣的家族背景下，Hinton對於AI始終有着至高的學術追求，在晚年時期他也將引導AI正向發展視為己任。

所以我們看到，77歲高齡且患有嚴重腰傷的他開始頻繁出現在公眾視野，通過一次次訪談、演講去向更多人傳遞對AI的正確認識。

他很高興大家願意聽他的分享與討論，在這次訪談裏他也專門提到今年和中國方面取得聯繫。

在WAIC上，我們也看到了他在中國第一次公開演講。

但我們也知道，Hinton還不會停下，他還會為AI的正向發展繼續、不斷奔走。

參考鏈接：https://www.youtube.com/watch?v=NnA2OoH_NFY