Anthropic首席執行官認為，人工智能可能在2026年之前超越大多數人類 - 彭博社
Shirin Ghaffary
達里奧·阿莫代伊，Anthropic的聯合創始人兼首席執行官。
攝影師：本傑明·吉雷特/彭博社Anthropic首席執行官達里奧·阿莫代伊告訴我，更強大的人工智能版本可能在這個十年內出現，並改善社會。但首先……
三件事需要知道：
• 人工智能檢測器 錯誤指控學生作弊——後果嚴重• 谷歌 將雙子星團隊加入DeepMind以推動人工智能精簡• 微軟人工智能副總裁 布貝克將加入 OpenAI
強大的人工智能
想象一個大多數癌症形式被消除、心理疾病得到治癒、普通人活到150歲的世界。Anthropic首席執行官達里奧·阿莫代伊相信，如果人工智能的進步速度繼續加快，這種情況可能會比你想象的更快實現。
阿莫代伊，前生物物理學學生，在最近的一篇15000字的 論文中詳細闡述了他的預測，標題為“愛的機器”。乍一看，他似乎不是這個烏托邦願景的合適傳播者：阿莫代伊和他的公司有時被 描繪為過於關注人工智能潛在危害的“悲觀者”。但阿莫代伊想要打破這種聲譽。“在過去兩年中觀看關於人工智能的辯論，我感到沮喪的是單一維度的光譜：你要麼是悲觀者，要麼是 加速主義者，”阿莫代伊在週四的視頻聊天中告訴我。“我們需要抓住好處並防止風險。我們需要同時做到這兩點。”他的預測關於人工智能的好處有一個重要假設。阿莫代伊認為，我們可能只需幾年時間就能開發出一種更先進的人工智能版本，能夠在許多任務上超越人類，並且比大多數諾貝爾獎得主更聰明。在他的論文中，阿莫代伊寫道，我們可能會在2026年之前達到這個里程碑——他更願意稱之為“強大的人工智能”，而不是常用的“AGI”或人工通用智能。“我認為這是最早的，”他在我們的採訪中澄清道。“但你知道，這並不意味着我認為這是最可能的……我可以告訴你一個故事，事情被阻礙，可能要100年才會發生。這是可能的。但我肯定會押注在這個十年內。”
阿莫代伊並不是唯一一個持樂觀態度的人。埃隆·馬斯克也表示到2026年，人工智能將比最聰明的人類更聰明。而OpenAI首席執行官山姆·阿爾特曼最近發表了一篇文章，稱我們可能在“幾千天”內達到AGI，這意味着在下一個十年內的某個時候。
但行業內存在很多分歧。AI的教父之一、Meta的首席AI科學家揚·勒昆表示，目前的大型語言模型“和貓一樣愚蠢。”一組蘋果的AI研究人員最近發表了一篇論文質疑領先的AI模型是否真的在推理，正如一些AI公司所聲稱的那樣，還是僅僅在“複製其訓練數據中觀察到的推理步驟。”其根本批評是，這些模型並沒有看起來那麼智能。可能仍然需要重大的技術突破才能實現更深層次的智能。
這些爭論對阿莫代伊來説並不新鮮。在某個時刻，阿莫代伊表示，他曾相信其中一些觀點。但到目前為止，他説，Anthropic和其他AI公司在很大程度上通過簡單地擴大數據和計算能力，解決了一些主要挑戰。
“每當我們認為看到一個障礙時，河流就會繞過它，”阿莫代告訴我。“我有足夠的專業知識對懷疑者保持懷疑。”
在我與阿莫代的對話中，我們討論了寫這篇文章的動機，為什麼人工智能模型比看起來更有利可圖，以及他是否計劃在後AGI世界中改變自己的生活方式。這次採訪經過了長度和清晰度的編輯。彭博社：感覺突然之間我們看到了更多關於人工智能的非常樂觀的文章。薩姆·奧特曼最近有一篇叫做 智能時代。你認為你們的願景有什麼不同，還是你們總體上是一致的？
**達里奧·阿莫代：**我不能為其他人的文件或其他人文件背後的意圖發言。我覺得真正重要的是對這個問題保持嚴謹，尤其是對那些沒有明確答案的問題保持嚴謹。文件中的一個主題是：一個非常聰明的東西——在某些方面比人類聰明得多——在世界上能做什麼？對此沒有明確的答案。如果你、我或一般人擁有更強的認知能力，你可以提出這樣的論點：沒有什麼改變。我們許多問題都是這些難以解決的衝突。或者你可以提出一個論點，認為這將徹底改變一切。我認為這是一個科學問題，我們確實不知道答案，因為以前從未有理由去問這個問題。
達里奧·阿莫代伊攝影師：大衞·保羅·莫里斯/彭博社 這篇文章是否部分旨在幫助向投資者解釋願景，因為每個主要的人工智能公司都在尋求越來越多的資金？
這篇文章的時機與籌款考慮無關。我在八月份內部展示過。我在山姆的文章發佈之前就已經將草稿發給了外部人員，他們在我在文章末尾提到的名單上。然後[出現了]這些 關於籌款的傳聞。
你説我們最早可以在2026年達到強大的人工智能。是什麼讓你感到更樂觀，是什麼可能導致這種樂觀情緒的減弱？
我長期以來一直是擴展假説的支持者：即增加計算能力、增加數據，模型會不斷變得更好。我自2014年以來一直在這個領域，我聽到了一個又一個論點，其中一些我在早期版本中是相信的：“你可以讓一個人工智能系統處理語法，但它無法理解語義。它無法理解意義。一個句子可以有意義，但一個段落卻不能。模型可以記憶和回憶信息，但它們無法思考和推理。”現在，最新的論點是：我們將耗盡訓練數據。我們確實可能會耗盡訓練數據，但我一再看到我們要麼經歷這些事情，要麼繞過它們。所以我有這種懷疑，這種直覺——我不確定——但我有這種懷疑，指數增長將會持續下去。我們應該如何理解你和山姆等人對人工智能的這種重新樂觀的態度，但在某些領域仍然存在這種持續的懷疑？
我會把它分成兩部分。一是對模型在技術層面上會繼續改進的懷疑，二是對其對世界影響的懷疑。實際上，相對而言，我對第二點更為同情。我認為其中一些在文章中有所體現。我們有一個一致的世界，在這個世界裏，我們取得了所有這些令人難以置信的技術突破，而社會問題卻變得棘手。
在技術懷疑方面，我有更多的信心——儘管不是確定。我們看到這些興奮的浪潮。人們變得非常興奮，甚至在短期內過於興奮，這導致了懷疑者的反彈。懷疑者説：“模型永遠無法做到這個，永遠無法做到那個。”所以我們經歷了這種繁榮與蕭條。看起來像是一種時尚，但技術本身卻在平穩增長的軌道上。我認為這種平穩的趨勢可能會繼續。也可能不會。懷疑者可能是對的，但這不是我的猜測，也不是我所押注的。
你曾説過，訓練領先的人工智能模型現在需要花費10億美元，而這可能在明年上升到50億到100億美元。成本在你們公司開發這些模型時有多大障礙？你認為你們是否需要越來越依賴於風險投資以外的資金——不僅僅是來自大型科技公司，還有外國投資基金？
我會區分訓練模型所需的成本和運行模型所需的成本。許多人將高成本解讀為沒有盈利的商業模式。我認為情況並非如此。相反，這是一個具有高研發成本的業務。我不想涉及具體數字，但如果從模型的角度來看——訓練這個模型的成本是多少，然後我們從運行它中獲得多少收入——我們的業務，可能還有其他業務，看起來要比你考慮投入了多少資金、支出了多少資金（因為你正在訓練下一個模型）要好得多。如果你無法訓練下一個模型，你可能會有一個可行的業務，依賴於當前的模型。只是其他人正在訓練下一個模型。
你是否在個人生活或工作生活中根據你對我們可能在2026年達到這種更強大人工智能的信心而改變了什麼？
我對此想得很深，我認為在大多數方面，你的生活還是會繼續進行。
你關於活到150歲的預測讓我個人開始思考是否需要重新考慮一些事情。
我想你可能會有各種奇怪的反應。你可以生活在一個泡沫中，或者開始以各種奇怪的生存主義方式行事。我認為這既不是正確的反應，也不是智力上正確的反應。我也認為這會對我產生奇怪的影響，並且會讓我看起來非常奇怪。一般來説，我只是按照我通常的方式生活。但與此同時，我也在想，很多出錯的事情，也許我們可以修復它們。所以只是一個簡單而健康的信息：照顧好你的健康，防止損害過於嚴重，變得不可逆轉，盡你所能。但也許這些都是好的建議。也許我只是以更緊迫的語氣重複它。
好的。這讓我對如果我真的活到150歲而沒有計劃的事情感覺好一些。
沒有人有計劃。作為一個寫過50頁關於這種規模的世界變化的論文的人，沒有人有計劃。我們都在盡力而為。有些人比其他人想得更多，但這根本就是瘋狂的。
有關於人工智能的問題嗎？ 發郵件給我， Shirin Ghaffary，我會在未來的新聞通訊中嘗試回答你的問題。
值得關注
亞馬遜是最新一家尋求核能來滿足其人工智能需求的大型科技公司。AWS首席執行官馬特·加爾曼加入討論他們在清潔能源方面的最新投資。他在“彭博科技”節目中與埃德·盧德洛和卡羅琳·海德交談。### 深度學習
- 薩姆·阿爾特曼的 世界幣更名，以及新硬件
- 微軟與OpenAI的緊密合作關係 顯現出裂痕
- 光子計算初創公司Lightmatter達到 44億美元的估值
- 台積電股票本週創下 紀錄新高，因人工智能熱潮提升了預測
更多來自彭博社
獲取每日科技資訊以及更多彭博科技週刊到您的郵箱：
- 網絡簡報，涵蓋黑客和網絡間諜的陰影世界
- 遊戲進行中，報道視頻遊戲行業
- 電力開啓，獲取蘋果新聞、消費科技新聞等
- 屏幕時間，前排觀看好萊塢與硅谷的碰撞
- 聲音片段，報道播客、音樂產業和音頻趨勢