Anthropic CEO阿莫迪掌舵610億美元AI巨頭——彭博社

Anthropic聯合創始人兼首席執行官達里奧·阿莫代在其舊金山公司辦公室。

攝影師：Helynn Ospina為《彭博商業週刊》拍攝二月中旬某天，Anthropic首席執行官達里奧·阿莫代在Slack上收到一條消息：公司安全團隊的高級成員擔憂，若缺乏適當防護措施，即將公開發布的人工智能模型可能被用於開發生物武器。

這一驚人發現出現時，阿莫代已承受着巨大壓力。爭議中的Claude 3.7 Sonnet模型距發佈僅剩數日，Anthropic PBC正全力追趕競相推出模型的競爭對手。與此同時，42歲、戴着眼鏡留着捲髮的阿莫代——其職業生涯早期曾在實驗室精心提取過死蠑螈的眼球——正在敲定一筆估值超600億美元的多輪融資。

此刻踩剎車絕非良機，但這正是阿莫代四年前參與創立Anthropic時承諾的原則。相比AI行業多數同行，阿莫代始終強調其開發的技術存在重大風險。

當時，Anthropic公司的一支名為"前沿紅隊"的員工小組正在加利福尼亞州聖克魯斯參加一場安全會議。他們與來自生物安全諮詢公司Gryphon Scientific LLC的外部專家（這些專家也參加了該活動）一起，在酒店房間裏埋頭處理這個問題。通過Google Meet遠程參與的Amodei帶領團隊對模型進行了一系列測試。Anthropic的員工們對他説出了大多數老闆在這種情況下可能想聽的話——他們會熬一兩個通宵來評估問題，並堅持按原計劃發佈。“他們説：‘我們可以通宵工作，可以按時完成，可以72小時不睡覺搞定這件事’，“Amodei在舊金山Anthropic總部回憶道。“我回答説：‘如果你們這樣做，反而做不好工作。’“他要求團隊花時間對模型進行更嚴格的測試。

為應對此類情況，Anthropic已預先制定了名為《負責任擴展政策》的框架，該框架 loosely 借鑑了美國政府生物安全實驗室標準，用於確定如何處理日益先進的人工智能相關風險。只要其模型保持在特定水平之下（稱為AI安全等級2），就可以照常運營。ASL-2級別的系統可能具備提供生物武器指導説明的能力，但其可靠性或詳細程度不會超過搜索引擎可獲得的信息。而ASL-3級別的系統則可能顯著幫助用户——特別是具備基本技術知識的用户——實際製造或部署此類武器。

Anthropic此前發佈的所有模型均處於ASL-2或更低級別。若達到ASL-3級別，根據公司內部準則必須加強安全防護，包括強化防禦體系以防止惡意行為者竊取代碼或誘騙系統泄露危險信息。在實施高級防護措施前，需採取臨時性措施，例如刻意削弱模型性能、屏蔽特定響應或徹底不予發佈。

經過近一週評估，團隊最終認定該模型並未達到Amodei團隊最初擔憂的強度。Anthropic雖延遲發佈，但至少截至目前，人類文明尚未因此崩塌。

Amodei坦言，在行業競爭壓力下，短暫延遲令人"煎熬”。但若Anthropic真能實現其宣稱的技術突破，未來還將面臨更艱難的抉擇。他堅信AI將通過"數據中心裏的天才國度"重塑世界——樂觀來看可能攻克癌症，但也可能導致全球大規模失業。據其預測，這場社會秩序重構最早明年就會來臨，絕不會遲於2030年。“如果我們不盡可能清晰且頻繁地闡明現狀，幾乎等同於放棄道德責任。“他表示。

Anthropic成立的初衷是以最負責任的方式推動這場變革。但現實是客户已開始為其技術支付真金白銀：截至四月，公司年收入預計達20億美元，較四個月前翻倍。Anthropic表示目前尚未盈利，主因AI系統訓練成本高昂——Amodei透露，訓練尖端模型的最終成本可能高達千億美元。

客户幾乎肯定將持續追求更強大的人工智能。Anthropic公司完全預期很快（或許即將）達到ASL-3級別，並已為此提前加強安全防護措施。近年來，該公司從OpenAI挖來了至少六位頂尖研究人員，其中部分人曾批評前僱主背離了其公開承諾的安全準則。可以預見，若Anthropic未來試圖規避自身承諾，這些專家絕不會保持沉默。

關於這一臨界點何時到來仍存爭議。與谷歌、Meta Platforms Inc.和OpenAI類似，Anthropic在發佈其最昂貴、最強大AI模型新版本的預期時間表上已然落後。質疑者認為，關於AI危險性的討論或許是為了誇大該技術的實際能力。

與此同時，關注AI安全的人士指出，追求快速開發的市場壓力可能導致企業做出不負責任的決策。畢竟，投資者向Anthropic注資140億美元絕非為了讓它敗給OpenAI、DeepSeek或Meta，而一旦接受這些資金，忽視商業利益就不再是可選選項。“你無法真正與市場正面對抗，“Amodei坦言。但他同時表示，可以創造所謂的"向上競爭”——通過示範如何在不毀滅世界的前提下打造改變世界的AI，推動整個人工智能行業共同提升。

阿莫代伊是土生土長的舊金山人，卻從不以科技人士自居。他在教會區長大，那時科技資本尚未改變這片街區。阿莫代伊家族屬於工人階級，已故的父親在意大利孤兒院長大，曾是皮革匠人，後因慢性健康問題在阿莫代伊幼年時被迫停工，並於阿莫代伊青少年時期離世。他的母親則擔任圖書館項目經理。

阿莫代伊的妹妹丹妮拉·阿莫代伊——也是Anthropic聯合創始人兼公司總裁——回憶哥哥自幼天賦異稟，尤其在數理領域。蹣跚學步時，他就會宣佈"數數日"並竭盡所能地數數。“他能數上一整天，“她説，“哪個三歲孩子有這種專注力？“高中期間他就開始修讀加州大學伯克利分校課程，後在加州理工學院攻讀物理學兩年，繼而轉學斯坦福大學。

丹妮拉記得，大學時期達里奧因閲讀雷·庫茲韋爾的《奇點臨近：當人類超越生物學》首次對AI產生興趣，該書預言AI將在2029年達到人類智能水平，2045年人類將與機器融合。

阿莫代伊2006年獲得本科學位後，轉向研究物理學的神經與生物應用。為攻讀研究生，他東遷至普林斯頓大學攻讀生物物理學博士學位，其研究涉及兩棲動物神經節細胞的神經結構，這讓他不得不解剖蠑螈以觀察視網膜。“我對其中涉及的動物權益問題並不熱衷，“自幼素食的阿莫代伊表示（不過他對蝦類等無脊椎動物網開一面）。但他補充道：“我是科學家，我想解決生物學和人類健康的問題。”

真正觸動阿莫迪的並非實驗室生活的倫理問題，而是發展速度。當他在日常工作的枯燥中掙扎時，阿莫迪看到另一項探索智能本質的嘗試——人工神經網絡的研發——正以驚人速度推進。儘管所謂的深度學習在計算機科學界曾一度失寵，但該領域在2012年左右開始復興。研究人員運用這項技術提升計算機視覺的突破令阿莫迪驚歎：“我當時就想，‘天哪，這真的奏效了’"。2014年，曾在斯坦福大學從事博士後研究的阿莫迪，受該校計算機科學系教授吳恩達邀請，加入其為中國科技公司百度運營的AI部門，他毫不猶豫抓住了這個機會。

阿莫迪在百度工作一年後，又加入了谷歌旗下專注AI的研究團隊Google Brain。在那裏，他開始思考AI快速發展帶來的倫理問題。2016年，他發表了備受推崇的論文《人工智能安全的具體問題》，闡述了AI可能引發意外危害的五個關鍵領域。

儘管2010年代初的谷歌是AI新秀的理想工作地，但名為OpenAI的非營利實驗室更契合阿莫迪的志趣。他於2016年加入該機構擔任安全研究負責人，與包括後來成為Anthropic聯合創始人的三位同事在內的數名室友，共同居住在舊金山格倫公園社區的合租屋中。其中一位室友正是丹妮拉。當時，阿莫迪兄妹的社交圈都與有效利他主義（該哲學主張以理性思維作為改善世界的最有效方式，在AI安全關注者中風靡一時）有所關聯。（該運動在其最著名領袖之一、加密貨幣大亨山姆·班克曼-弗裏德——其公司在破產程序前曾是Anthropic投資者——因欺詐投資者罪被判刑後逐漸失勢。）

達里奧和丹妮拉·阿莫代伊在去年舊金山彭博科技峯會上的舞台合影。攝影師：大衞·保羅·莫里斯/彭博社阿莫代伊在OpenAI最重要的研究貢獻是提出了”規模法則“概念，即通過單純增加模型規模、數據量和計算能力就能實現神經網絡的根本性改進。在計算機科學發展史上，人們長期認為突破主要來自設計更優算法。通過開創"越大越好"的策略，阿莫代伊在主導當前AI熱潮的大語言模型崛起中發揮了關鍵作用，這使他在OpenAI乃至整個行業獲得了顯赫地位。

對AI的責任感始終困擾着阿莫代伊，隨着時間推移，他對OpenAI逐漸失望。2020年，他與六名同事離職創立Anthropic，承諾打造更負責任的AI實驗室。這個團隊相處融洽：他們早有共事經歷，其中三人曾同住，兩人還有親屬關係。

這次出走至今仍是硅谷熱議話題——這裏向來熱衷初創公司的戲劇性故事，尤其當涉及史上估值最高的獨角獸企業時。阿莫代伊對此語焉不詳，但提及對OpenAI領導層失去信心：“並非某個特定轉折點，而是多年累積意識到我們需要不同的運作方式。“他表示，“我們希望與信任的人共事。“當時Anthropic前景看似渺茫，畢竟OpenAI坐擁鉅額資金和模型研發的先發優勢。谷歌CEO埃裏克·施密特作為早期投資者回憶：“幾年前的主流觀點認為Anthropic無法擴大規模，因為它籌不到足夠資金。”

然而，Anthropic已發展成不容小覷的競爭對手，其技術實力可堪匹敵，並在金融、製藥、軟件開發等行業積累了不斷增長的付費客户羣（該公司也推出了面向公眾的AI聊天機器人Claude，但相比OpenAI更少聚焦消費市場）。

施密特仍記得2018年造訪阿莫迪與其合夥人（現為妻子）卡米拉·克拉克時的情景，他們當時住在舊金山高速公路旁的初創公寓裏。雖然阿莫迪那時仍在OpenAI任職，但其才華給施密特留下深刻印象，最終促成後者對Anthropic的投資。施密特曾對阿莫迪將Anthropic註冊為公益企業的計劃持懷疑態度——這類營利組織需致力於公共使命。當施密特建議採用傳統初創模式時，阿莫迪斷然拒絕。

此類爭論在Anthropic早期屢見不鮮。“我們討論過’是否僅靠慈善資金運作？是否主要聚焦安全研究？需要多少資金？’“阿莫迪的博士同窗、現Anthropic聯合創始人兼首席科學官賈裏德·卡普蘭回憶道，“有人認為該成立非營利機構。但達里奧和我都認為這非明智之舉，應保持選擇靈活性。”

投資機構General Catalyst首席執行官赫曼特·塔內賈指出，Anthropic有望成為當前AI熱潮中少數贏家之一。該公司參與了Anthropic最新一輪融資：“這家企業具備最終勝出的一切要素，但坦白説，這是我寫過金額最大、不確定性最高的支票。”

儘管Anthropic一路高歌猛進，但它比其發源公司更重視安全和責任等問題的聲譽已經樹立起來。OpenAI董事會指控薩姆·奧爾特曼“不夠坦誠”，導致他在2023年短暫下台，此後該公司一直面臨關於其誠信和最初使命承諾的質疑。2023年短暫罷免薩姆·奧爾特曼的事件，引發了外界對該公司的誠信及其對最初使命承諾的持續質疑。

阿莫代伊通常避免直接批評前僱主，但他和他的公司並不掩飾一些含沙射影的抨擊。Anthropic在舊金山各地投放了廣告牌，標語寫着“值得信賴的AI”和“沒有戲劇性的那一個”。與其他科技高管（包括奧爾特曼）不同，阿莫代伊幾乎沒有試圖討好特朗普政府，他表示自己的立場與喬·拜登擔任總統時一致。他提到行業中“一些參與者”為了討好當權派而“什麼話都説”，相比之下，“你可以看出這非常沒有原則。”他説。

加州Anthropic的廣告牌。來源：Anthropic今年1月，阿莫代伊首次參加了在瑞士達沃斯舉行的世界經濟論壇，他穿着細條紋西裝，參與了一些思想領導力和高風險交易談判。同一天，他在彭博達沃斯之家發表了關於DeepSeek和AI賦能醫療保健的演講，之後又與美國國際集團（AIG）首席執行官彼得·扎菲諾進行了近一小時的密談。Anthropic最終獲得了一份多年期合同，幫助分析保險承保過程中的客户數據。（AIG表示，這筆交易源於為期18個月的試點，期間Anthropic將相關工作速度提高了8到10倍。）扎菲諾表示，他選擇Anthropic是因為該公司特別注重在引用具體數據源時的可信度和準確性，尤其是在高度監管的保險行業。扎菲諾對阿莫代伊的學習速度印象深刻。“無論達里奧在商業經驗上有什麼不足，他大腦中的算法運轉得非常快，”扎菲諾説，“他能夠將所學和我們討論的內容應用到業務目標上。”

在達沃斯結束一天的工作後，他婉拒了晚間派對，回到酒店房間撰寫文章，探討DeepSeek如何凸顯加強半導體出口管制的必要性。Anthropic最近的融資輪次已使他成為億萬富翁，出行常配備安保團隊。但他仍租住在舊金山南郊的房子裏，在院子裏養雞，並承諾將"絕大部分"財富捐贈給慈善事業。

三月接待彭博商業週刊記者時，他並未穿着細條紋西裝；阿莫迪顯然很享受迴歸被同事克拉克稱為"舒適套裝"的裝扮——彈性灰色運動褲和同色系休閒T恤。他表示這身打扮"有助於思考”。

阿莫迪根植於學術生涯的思維方式塑造了Anthropic的企業文化。每兩週，自稱"螞蟻"的員工們會聚集聆聽他長達一小時的內部講座"達里奧願景探索”。相關文檔會提前分發供預習。在他的領導下，公司還研究無法即時變現的課題，如機械可解釋性（研究不透明算法的決策機制）和AI福利（若計算機產生意識時的交互倫理）。

通過這一系列成績，Anthropic在科技界樹立了真正重視負責任AI開發的聲譽——而與此同時，其他科技公司可能只是口頭承諾這一理念，甚至在某些情況下，當倫理框架可能拖慢開發進度時，對其合理性表現出敵意。“達里奧和整個團隊在安全問題上值得信任和讚揚，他們是真誠行事的，“與阿莫迪就寫作進行過諮詢的著名經濟政策作家馬修·伊格萊西亞斯表示，“但這是否能改變結構性困境尚不明確。當你處於競賽中時，即使完全出於善意，也很難兼顧安全。”

Anthropic致力於打造幾乎無所不能的機器，但其AI目前有一項特別突出的能力：編寫計算機代碼。該公司最近為程序員發佈了一款應用Claude Code，其技術還為包括Cursor在內的熱門獨立編程應用提供支持。Anthropic自身二月份的經濟指數報告顯示，37%與Claude相關的職業互動涉及編程，佔比居所有類別之首（藝術與媒體以約10%位列第二）。阿莫迪表示，自動化編碼可能是近幾個月來其業務增長最快的部分。

AI生成的代碼不像計算機創作的音樂或繪畫那樣能引發情感共鳴。與歌曲不同，用户並不太在意他們使用的應用程序背後的代碼是否出自真人之手。程序員羣體也普遍接受了AI將成為工作的一部分：GitHub公司去年對2000名技術人員進行的調查發現，近97%的人曾在工作中使用過編程工具。

但與計算機制造髒彈等AI安全問題相比，該領域迫在眉睫的失業危機顯得更為真實。Anthropic公司發現，79%使用Claude Code的程序員是為了"自動化"而非"增強"任務。（據Anthropic政策負責人、聯合創始人兼前彭博新聞社記者傑克·克拉克透露，這份經濟指數報告部分內容就是由Claude Code生成的。）

這正是阿莫迪必須直面公司工作帶來的嚴峻現實的領域。在3月10日由外交關係委員會主辦的華盛頓特區演講中，阿莫迪預測AI可能在一年內完成幾乎所有計算機代碼的編寫。這段發言視頻迅速傳播，引發了恐懼與質疑交織的反響。阿莫迪表示其言論被斷章取義——他在活動中同時強調人類仍將參與整體編程過程，比如指定開發何種應用程序或如何與其他系統集成。“歸根結底，這些模型在所有方面都將超越人類，“他説，“我們必須面對這個現實。在社會層面，每個人都需應對這個問題。我的目標是在這個過渡期避免製造出新的底層階級。”

對Anthropic而言頗為尷尬的是，在這場技術變革中受影響的可能正是當下在其辦公室內構建自動化工具的僱員們。“氛圍變得’哦，這下動真格的了’，“克拉克説道。阿莫迪最近在一次願景探索演講中聚焦該議題，他向員工坦言Anthropic的技術正引發公司工作模式的深刻變革。“由於Claude的進展，我們可能會放緩招聘節奏——這麼做正是為了避免未來因Claude而裁員，“他在向團隊傳達時這樣表示，並補充公司將協助程序員適應角色轉型。

在會議配套的內部備忘錄中，阿莫迪寫道：今年內AI在"執行關鍵技術任務”（如編寫代碼、調試、提案及管理實驗）方面有70%概率從"輔助工具"躍升為"絕對必需品”，屆時將承擔大部分技術工作，使Anthropic的執行效率翻倍。

“AI進步的主要驅動力將來自AI自身，“阿莫迪在備忘錄中強調，同時指出人類仍將長期保持核心地位——“這源於當前人類的相對優勢”。不過隨着AI進入遞歸式自我迭代的循環，人類的作用可能逐步弱化。

若該能力真正實現，Anthropic的模型將迅速突破其危險等級閾值。達到ASL-4級別時，AI將具備"完全替代Anthropic初級遠程研究員"的能力。而ASL-5則意味着AI擁有加速自我進化的能力。

在《慈愛機器》這篇廣為流傳的文章中（阿莫代伊去年十月先在公司內部發表，隨後發佈於個人博客），他描繪瞭如果人工智能一切發展順利的終極圖景。憑藉其生物學專業背景，他指出AI將以當前十倍的速度加速科學發現，幫助治癒幾乎所有傳染病、多數癌症和阿爾茨海默症，最終使人類壽命延長一倍。（Anthropic公司現在印製了口袋大小的*《慈愛機器》*文集分發給員工。）

當談及AI與工作及人生意義的關係時，筆調開始轉變。他認為這個問題尤為棘手，因為"其邊界更難以界定，也更具不可預測性”。阿莫代伊預測AI可能最終取代大部分人類勞動，除非人們找到某種尚未確定的保持經濟價值的方式，否則將不得不依靠全民基本收入或其他財富再分配機制生活。

“我們很可能需要努力爭取才能獲得好結果：剝削性或反烏托邦的發展方向顯然也存在可能，必須加以防範，“阿莫代伊寫道，“關於這些議題還有更多值得探討的內容，我希望未來能進一步闡述。"延伸閲讀：微軟CEO談AI將如何重塑所有企業——包括他自己的公司