紐約時報萬字長文：AI行業的雄心，恐懼和金錢_風聞

紐約時報萬字長文：AI行業的雄心，恐懼和金錢AI新宇宙2023年12月04日 22:07:524人蔘與3評論

“深知人工智能風險的人羣，堅信唯有由他們親手打造，方能確保其安全。然而，這一信念激發了深藏的不信任，進而引發了一場愈演愈烈的競賽。”

2015年7月，埃隆·馬斯克在加州的葡萄酒產區度假村慶祝了他的44歲生日。

這是一個只有家人和朋友參加的三天派對，地點佈置有多個小屋，孩子們在納帕谷的豪華場地上玩耍。

那時距離Twitter重組成X和特斯拉首次盈利還有幾年。

馬斯克和他的妻子塔盧拉·萊利（她在HBO的科幻劇《西部世界》中扮演一位既美麗又危險的機器人）的第二次婚姻即將結束。

派對的嘉賓之一，谷歌首席執行官拉里·佩奇，當時還在職。

而人工智能剛剛開始引起公眾關注，它曾被用於在YouTube上以16%的準確率識別貓。

在派對的第一天晚上，馬斯克和佩奇在晚餐後的泳池旁火坑邊深入討論了人工智能。

這兩位億萬富翁已經是十多年的朋友，馬斯克有時會開玩笑説，他會在玩完電子遊戲後偶爾在佩奇的沙發上過夜。

但那個夜晚，兩人關於人工智能是促進人類進步還是導致毀滅的辯論變得尤為激烈。

當討論延續到深夜，場面越來越緊張，30多位派對嘉賓圍聚起來傾聽。

由於長期受聲帶疾病困擾的佩奇先生小聲描述了他的數字烏托邦夢想，即人類最終與AI機器融合，競爭資源，最強者生存。

馬斯克回應稱，這樣的發展將導致人類滅亡。佩奇先生強調應追求這一願景，甚至將馬斯克稱為偏袒人類的“物種主義者”。

馬斯克形容這一侮辱是他的“忍耐極限”。許多圍觀者雖然對此感到驚訝但也覺得有趣，認為這只是硅谷派對上常有的深奧討論之一。

然而，八年後，這兩人的爭論顯得預見未來。關於AI是提升世界還是毀滅之間的爭論，已成為硅谷創業家、聊天機器人用户、學者和政策制定者之間的核心議題，涉及AI技術是應該受到管控還是放任發展。

這場辯論讓世界上一些最富有的人站在了對立面，包括馬斯克、佩奇、扎克伯格、蒂爾、納德拉和奧特曼，他們都在爭奪這個潛在價值數萬億美元的市場的一席之地，並努力塑造其發展方向。

這場關於AI的辯論使一些世界上最富有的人士陷入對立，包括馬斯克、佩奇、Meta的扎克伯格、科技投資者蒂爾、微軟的納德拉和OpenAI的奧特曼。他們都在爭奪這個未來可能價值數萬億美元的業務領域的控制權。

競爭的核心是一個難以理解的悖論：那些對AI最擔憂的人，反而最積極推動它的發展和從中獲利。他們認為只有他們能有效控制AI，避免其對地球造成威脅。

那個夏天派對後不久，馬斯克和佩奇就不再交流。幾周後，馬斯克在加州門洛帕克的Rosewood酒店與奧特曼（當時管理一家技術孵化器）及一些研究人員共進晚餐，此地是風險投資界的熱門交易地點。

這次晚餐促成了OpenAI的成立，這家公司獲得馬斯克和其他投資者數億美元的支持，承諾抵禦佩奇願景所帶來的威脅。

OpenAI憑藉其ChatGPT聊天機器人，在根本上改變了科技行業，並向世界展示了人工智能的風險與潛能。

據兩位瞭解公司最新融資情況的人士透露，OpenAI的估值已超過800億美元，但馬斯克和奧特曼的合作並未持續下去，兩人已經不再交流。

奧特曼表示：“存在着分歧、不信任和個人利益問題。當人們的目標趨於一致時，分歧就變得更加尖鋭。這種情況在宗教團體和教派中很常見，親近的人之間往往會發生激烈的爭吵。”

上個月，這種內部爭鬥蔓延到了OpenAI的董事會。部分董事成員試圖罷免奧特曼，因為他們不再相信他能建造對人類有益的AI。

在五天的混亂中，OpenAI一度面臨解體危機，直到在大投資者和威脅隨奧特曼離開的員工的壓力下，董事會最終讓步。

OpenAI內部的這場紛爭讓世界首次看到了決定AI未來的人之間的激烈鬥爭。

在OpenAI險些解體的多年前，硅谷就已經展開了一場鮮為人知但非常激烈的競爭，為了爭奪如今正在迅速改變世界的技術控制權，這些技術改變了從兒童教育到戰爭方式的一切。

《紐約時報》採訪了80多位高管、科學家和創業者，包括兩位參加了2015年馬斯克生日派對的人，他們共同講述了一個關於雄心、恐懼和金錢的故事。

DeepMind的起源

在納帕谷派對的五年前和YouTube上貓的識別突破前兩年，34歲的神經科學家德米斯·哈薩比斯參加了彼得·蒂爾在舊金山的聯排別墅舉辦的雞尾酒會，並意識到他找到了機會。

在蒂爾的客廳裏，可以看到城市的美術宮和天鵝池，還有一副棋盤。哈薩比斯曾是全球14歲以下組別的第二棋手。

“我為那次會面準備了一年，”哈薩比斯回憶道。“我認為這將是我吸引他注意的獨特方式：我知道他喜歡下棋。”

2010年，哈薩比斯和他在英國的兩位同事正在尋找資金，希望構建“通用人工智能”（A.G.I.），這是一種能做任何人腦能做的事的機器。

那時，人工智能領域經過半個世紀的研究，但未能產出任何接近人類大腦的成果，因此很少有人對它感興趣。

儘管如此，一些科學家和思想家開始越來越關注人工智能的潛在風險。像這三位英國年輕人一樣，許多人與網絡哲學家、自學成才的人工智能研究者埃利澤·尤多科斯基有聯繫。尤多科斯基是自稱為“理性主義者”或後來的“有效利他主義者”的社羣的領袖。

他們相信人工智能可以找到治癒癌症的方法或解決氣候變化問題，但同時擔心人工智能機器人可能會做出超出創造者預期的行為。理性主義者認為，如果機器變得比人類更聰明，它們可能會反過來對抗創造者。

蒂爾通過早期投資Facebook和與馬斯克合作PayPal而變得非常富有。他對“奇點”——科幻小説中描述智能技術超出人類控制的時刻——產生了濃厚興趣。

在蒂爾的資助下，尤多科斯基擴大了他的人工智能實驗室，並創辦了一個關於奇點的年度會議。在此之前，哈薩比斯博士的兩位同事中的一個遇到了尤多科斯基，並確保他們在會議上獲得發言機會，也因此被邀請參加了蒂爾的派對。

尤多科斯基把哈薩比斯博士介紹給了蒂爾。哈薩比斯意識到派對上許多人可能都在向主人尋求投資，所以他打算另外安排一次會面。

他對蒂爾提出了一個見解：在國際象棋中，象和馬雖然價值相等，但存在着深刻的差異。他解釋説，雖然這兩個棋子的分值相同，但最棒的棋手懂得它們各自的優勢截然不同。

這個方法成功了。蒂爾被他們吸引，第二天再次邀請他們到他的家中，大家在廚房聚集。蒂爾剛做完早晨的鍛鍊，還穿着濕漉漉的運動服。他接過管家遞來的一罐健怡可樂。

這三人介紹了他們的計劃，不久後，蒂爾及其風險投資公司決定向他們的初創公司投資140萬英鎊（約225萬美元），成為他們的第一位大投資者。

他們將公司命名為DeepMind，這不僅是對“深度學習”（一種AI系統通過分析大量數據來學習技能的方法）的致敬，也是對神經科學以及科幻小説《銀河系漫遊指南》中“深思”超級計算機的引用。

到了2010年秋天，他們開始實現他們的夢想機器。他們堅信，正是因為他們深刻理解相關風險，所以他們獨具慧眼，能夠保護世界。

“我認為這不是一個自相矛盾的立場，”DeepMind三位創始人之一穆斯塔法·蘇萊曼表示。“這些技術將帶來巨大的好處。我們的目標不是停止或暫緩它們的發展，而是要減少它們可能帶來的負面影響。”

在獲得蒂爾的支持後，哈薩比斯博士開始接近馬斯克。兩年後，他們在蒂爾投資基金舉辦的一次會議上見面，該基金也對馬斯克的SpaceX公司進行了投資。

哈薩比斯獲得了參觀SpaceX總部的機會。之後，他們在裝飾有火箭殼的餐廳裏用餐並進行了交談。

馬斯克分享了他殖民火星的計劃，以此來逃避地球上的過度人口和其他危險。哈薩比斯回答説，這個計劃是可行的——只要超智能機器不跟着他們到火星上也摧毀人類。

這個觀點讓馬斯克無言以對，他之前沒有考慮過這種特殊的危險。不久之後，馬斯克和蒂爾一起投資了DeepMind，這樣他就能更加靠近這項技術的開發。

資金充足後，DeepMind開始招募專門研究神經網絡的研究人員。神經網絡是一種複雜的算法，模仿人腦構建，本質上是一個大型數學系統，能夠花費數日、數週甚至數月的時間來識別大量數據中的模式。

這些系統最初於1950年代開發，能學會自主處理任務，例如在分析數百個信封上的手寫姓名和地址後，它們能識別手寫文本。

DeepMind將這一概念推向了新高度。他們建造了一個能夠學習翫如《太空侵略者》、《乒乓球》和《打磚塊》等經典雅達利遊戲的系統，以展示其潛力。

這吸引了硅谷的另一家巨頭谷歌，尤其是拉里·佩奇的注意。他看到了DeepMind機器玩雅達利遊戲的演示，並想加入其中。

人才競賽

2012年秋，多倫多大學64歲的教授傑弗裏·辛頓和他的兩名研究生髮表了一篇研究論文，展示了人工智能的能力。他們訓練了一個神經網絡識別常見物體，如花、狗和汽車。

科學家們對辛頓博士及其學生開發的技術的準確度感到驚訝。特別關注這一點的是餘凱，一位在研究會議上遇見辛頓博士的人工智能研究者，他最近加入了中國的互聯網巨頭百度。

據瞭解，百度提出了1200萬美元的報價，邀請辛頓博士和他的學生加入其北京團隊。

儘管辛頓博士拒絕了百度的提議，這筆錢還是引起了他的關注。這位在劍橋受教育的英國移民在學術界度過了大部分職業生涯，偶爾在微軟和谷歌工作，金錢對他而言並不是驅動力。但他有一個神經多樣性的孩子，因此這筆錢將意味着經濟安全。

“我們不知道自己值多少錢，”辛頓博士説。他諮詢了律師和收購方面的專家，決定採取一個策略：“我們將組織一場拍賣，把自己賣掉。”這場拍賣將在塔霍湖哈拉斯酒店舉辦的年度人工智能會議期間進行。

大型科技公司開始注意到這一趨勢。谷歌、微軟、百度等公司開始認識到神經網絡可能是實現機器不僅能看、聽、寫、説話，甚至最終思考的關鍵途徑。

佩奇在谷歌的人工智能實驗室Google Brain看到了類似的技術，並認為辛頓博士的研究能提升他的科學團隊的工作。他授權谷歌的高級副總裁艾倫·尤斯塔斯以任何必要的方式招募人工智能專家。

尤斯塔斯和負責Brain實驗室的傑夫·迪恩飛往塔霍湖，在拍賣前一晚在酒店的牛排館與辛頓博士及其學生共進晚餐。迪恩回憶，老煙味非常濃重。他們向辛頓博士展示了在谷歌工作的優勢。

第二天，辛頓博士在他的酒店房間組織了拍賣。由於背部舊傷，他很少坐着。他把一個垃圾桶倒置在桌子上，把筆記本放上面，開始觀察接下來兩天的出價。

谷歌提出了報價，微軟也參與了競標。隨着價格上漲，DeepMind退出了競爭。巨頭們將出價推高至2000萬美元、2500萬美元。根據拍賣的文件，當價格超過3000萬美元時，微軟退出，但在3700萬美元時重新加入競爭。

“我們覺得自己像是在電影裏，”辛頓博士回憶道。

微軟再次退出後，只剩下百度和谷歌在競標，價格被推高到4200萬美元、4300萬美元。最終，當出價達到4400萬美元時，辛頓博士和他的學生決定停止拍賣。雖然出價仍在上漲，但他們更願意加入谷歌，而且這筆金額是巨大的。

這清楚地表明，資金雄厚的公司正決心收購最優秀的人工智能研究人才，這一點哈薩比斯博士在DeepMind中也意識到了。他一直向員工承諾，DeepMind將保持獨立，他相信這是確保技術不會走向危險的最好方式。

但隨着大型科技公司加入人才競賽，他認為自己別無選擇，必須出售公司。

到2012年底，谷歌和Facebook都在試圖收購這家倫敦實驗室。哈薩比斯博士及其聯合創始人堅持兩個條件：DeepMind的技術不能用於軍事目的，且其通用人工智能技術必須由獨立的技術和倫理委員會監督。

谷歌出價6.5億美元。Facebook的馬克·扎克伯格提供了更高的報價，但不同意這些條件。最終，DeepMind選擇了谷歌。

扎克伯格決定創建自己的AI實驗室，並聘請了在人工智能領域做過開創性研究的法國計算機科學家揚·勒坤負責運營。

辛頓博士拍賣的一年後，他和勒坤博士一同前往塔霍湖參加同一場AI會議。扎克伯格在哈拉斯賭場的套房裏只穿襪子行走，親自面試了一些頂尖研究人員，很快他們被提供了數百萬美元的薪資和股票。

曾被視為笑話的人工智能現在讓硅谷的富豪們投入數十億美元以免落後。

消失的倫理委員會

馬斯克投資DeepMind時，打破了自己的一項非正式規則，即不投資於他不親自經營的公司。這一決策的負面影響在他與佩奇在生日派對上的爭執後不久就顯現了，當時他再次面對着他的前朋友和億萬富翁同行。

他們的再次相遇是在2015年8月14日DeepMind倫理委員會的首次會議上。這個委員會是應創始人要求成立的，目的是確保他們的技術在出售後不會造成傷害。據三位知情人士透露，委員會成員在馬斯克SpaceX辦公室外的會議室聚集，窗外是他的火箭製造廠。

馬斯克的影響力在此結束了。谷歌收購DeepMind意味着他不再參與公司事務。雖然從財務角度他取得了成功，但他對此並不滿意。

在控制DeepMind的谷歌高管中，包括佩奇、谷歌聯合創始人及特斯拉投資者謝爾蓋·布林，以及谷歌董事長埃裏克·施密特。會議還有其他出席者，如PayPal的另一位創始人裏德·霍夫曼和研究“存在性風險”的澳大利亞哲學家託比·奧德。

DeepMind的創始人彙報了他們正在繼續進行的工作，並強調他們意識到這項技術潛藏的嚴重風險。

DeepMind的聯合創始人蘇萊曼在董事會上做了一場題為“民眾的反抗即將來臨”的演講。他指出，人工智能可能會導致假信息的大量增加。他還表達了對於這項技術在未來幾年裏取代大量工作崗位的擔憂，擔心公眾會指責谷歌剝奪了他們的生計。蘇萊曼認為，谷歌應該與那些無法找到工作的數百萬人分享其財富，並支持實施“全民基本收入”的政策。

馬斯克對這一點表示贊同。但很明顯，他的谷歌來賓並不打算進行他們財富的分配。施密特先生認為這些擔憂被過分放大了，佩奇先生也以他一貫的低聲細語表示贊同。佩奇認為，人工智能將創造比它消滅的更多工作。

僅僅八個月後，DeepMind實現了一項驚世駭俗的突破，震撼了整個人工智能界和全世界。DeepMind的AlphaGo機器擊敗了世界上最頂尖的圍棋選手之一。這場比賽通過互聯網直播，吸引了全球約2億人觀看。

之前，大多數研究人員認為人工智能至少還需要10年的時間才能展現出這種創造性。

理性主義者、有效利他主義者和其他擔憂人工智能風險的人士聲稱，這場計算機的勝利證實了他們的擔憂。

“這表明人工智能的發展速度甚至超出了許多專家的預期，”即將加入DeepMind作為“人工智能安全”研究員的維多利亞·克拉科夫娜在一篇博客中寫道。

DeepMind的創始人對於谷歌將如何利用他們的發明越來越擔憂。2017年，他們嘗試從谷歌中獨立出來，而谷歌則通過提高DeepMind創始人及其團隊的薪資和股票獎勵來應對。最終，他們選擇留在谷歌。

倫理委員會從未再召開第二次會議。

分裂

對佩奇對於人工智能樂觀看法的懷疑，以及對失去DeepMind的不滿，促使馬斯克建立了自己的實驗室。

OpenAI成立於2015年末，緊隨他在硅谷Rosewood酒店與薩姆·奧特曼的會面之後。馬斯克為這個實驗室提供了資金支持，他的前PayPal同事霍夫曼和蒂爾也加入其中。他們三人及其他人承諾為該項目投入10億美元。當時30歲的奧特曼將參與管理這個項目。作為起步，他們從谷歌挖走了伊利亞·蘇茨克弗（蘇茨克弗是辛頓拍賣中谷歌收購的研究生之一）。

起初，馬斯克希望將OpenAI作為一個非盈利機構運行，以免受像谷歌等公司的經濟動機影響。但在谷歌用圍棋的成就震撼科技界後，馬斯克開始重新思考OpenAI的運營方式。他急切地希望OpenAI能發明能夠引起全球關注並縮小與谷歌差距的產品，但作為非盈利機構，OpenAI未能實現這一目標。

到2017年底，馬斯克計劃從奧特曼和其他創始人手中接管實驗室，並將其轉化為一家商業公司，與特斯拉合作，利用特斯拉開發的超級計算機，據四位知情人士稱。

當奧特曼等人反對時，馬斯克選擇退出並專注於特斯拉的AI工作。2018年2月，他在OpenAI辦公室的頂層向員工宣佈了他的離開決定。當他表示OpenAI需要加快步伐時，一位研究員在會議上反駁稱馬斯克過於魯莽。

馬斯克稱該研究員為“愚蠢的人”並憤然離開，帶走了他的資金。

OpenAI迫切需要新的資金來源。奧特曼前往森谷參加會議，偶然遇到了微軟首席執行官納德拉。合作似乎是自然的選擇。

奧特曼認識微軟的首席技術官凱文·斯科特，而微軟此前已經從OpenAI董事會成員霍夫曼手中收購了LinkedIn。納德拉指示斯科特去完成這筆交易。交易在2019年達成。

奧特曼和OpenAI在其最初的非盈利機構之下成立了一家盈利公司，擁有10億美元的新資金，而微軟則通過這種方式將人工智能整合進其廣泛的雲計算服務中。

然而，並非OpenAI內部所有人都對此感到滿意。

與有效利他主義社羣有聯繫的研究員達里奧·阿莫代參與了OpenAI在Rosewood酒店的成立。他一直在領導實驗室開發一種稱為大型語言模型的神經網絡，這種模型可以從大量數字文本中學習。通過分析無數的維基百科文章、數字書籍和論壇帖子，它能自行生成文本。不過，它也有誤導性信息的傾向。這個被稱為GPT-3的模型在2020年夏天發佈。

OpenAI、谷歌和其他公司的研究人員認為這種快速進步的技術可能是實現通用人工智能的途徑。

但阿莫代對與微軟的交易感到不滿，因為他認為這將OpenAI推向了極度商業化的方向。他和其他研究人員試圖向董事會施壓，讓奧特曼下台，據五名知情人士稱。他們的嘗試失敗後選擇離開。像DeepMind的創始人之前一樣，他們擔心新的公司管理者會將商業利益置於安全之上。

在2021年，大約15名工程師和科學家組成的團隊成立了一個名為Anthropic的新實驗室。他們的目標是以有效利他主義者認為的方式，通過嚴格控制來開發人工智能。

“Anthropic的聯合創始人並沒有試圖從OpenAI中移除薩姆·奧特曼，”Anthropic的發言人薩莉·阿爾多斯表示。“聯合創始人們自己決定離開OpenAI並創立自己的公司，他們已經向OpenAI的領導層明確了這一決定，並在幾周內協商了一個雙方都滿意的離職方案。”

兩年後，Anthropic接受了來自亞馬遜的40億美元和谷歌的20億美元投資。

揭曉

在OpenAI從微軟獲得了額外的20億美元投資之後，奧特曼和另一位高管格雷格·布羅克曼前往西雅圖外的華盛頓湖畔，拜訪了比爾·蓋茨在那裏的宏偉豪宅。雖然蓋茨不再日常參與微軟的運營，但他仍然定期與公司的高管保持聯繫。

在晚餐期間，蓋茨對他們表示，他對大型語言模型的有效性表示懷疑。他表示，除非這項技術能夠完成一項需要批判性思維的任務——例如通過一個高級生物學考試，否則他將保持懷疑態度。

五個月後，也就是2022年8月24日，奧特曼和布羅克曼再次訪問蓋茨，並帶來了一位名叫切爾西·沃斯的OpenAI研究員。沃斯曾在高中時獲得國際生物奧林匹克競賽的獎牌。納德拉和其他微軟的高管也出席了。

在蓋茨客廳外的一個巨大的數字顯示屏上，OpenAI團隊向在場人員展示了稱為GPT-4的技術。

布羅克曼讓GPT-4系統參加了一項高級生物學的多項選擇測試，由沃斯評分。第一個問題涉及極性分子，即一端帶正電荷，另一端帶負電荷的原子團。系統不僅正確回答了這個問題，還解釋了其選擇。“它本來只被訓練來提供答案，”布羅克曼解釋道。“但對話的特性幾乎像魔法一樣自然顯現。”也就是説，系統表現出了一些設計者原本未預期的能力。

總共有60個問題，GPT-4僅錯了一個。

蓋茨在椅子上坐直了，眼睛睜得大大的。他在1980年看到將成為現代個人電腦基礎的圖形用户界面時也有過類似的反應。他認為GPT技術具有同樣的革命性。

到了10月，微軟開始在其在線服務中，包括必應搜索引擎中，整合這項技術。兩個月後，OpenAI發佈了其ChatGPT聊天機器人，現在每週有1億人使用。

OpenAI在與Anthropic的有效利他主義者的競爭中取得了領先。谷歌的樂觀派急於推出他們自己的聊天機器人Bard，但普遍被認為已經落後於OpenAI。在ChatGPT發佈三個月後，谷歌股價下跌了11%。而馬斯克已經不見蹤影。

但這僅僅是一個開始。