新雲運營商依賴英偉達芯片保持高價——彭博社
Edward Ludlow
紐約時代廣場的CoreWeave公司標識。
攝影師:Yuki Iwamura/彭博社 歡迎閲讀《科技深度解析》,這是我們每日發佈的關於全球科技商業的新聞簡報,由彭博社駐世界各地的記者為您呈現。今天,Ed Ludlow將回顧他對CoreWeave首席執行官的採訪,以及這次採訪揭示的關於構建專業人工智能雲基礎設施這一高風險業務的啓示。
全球科技動態
**英特爾股權:**據知情人士透露,特朗普政府正考慮利用《芯片法案》資金入股英特爾。
**OpenAI股權:**OpenAI現任及前任員工計劃向投資集團出售價值約60億美元的股份。此次出售的公司估值?5000億美元。
**加密貨幣回調:**在比特幣創下每枚125,514美元歷史新高後數日內,主要加密貨幣回落,導致市場總市值跌破4萬億美元。
重新估值
交通科技公司Via公開提交了IPO申請,報告顯示截至6月30日的六個月虧損較上年同期收窄。該公司向交通機構和城市出售軟件及運營服務,協助規劃公共交通路線。據彭博社此前報道,該公司在2023年2月的估值為35億美元。
未雨綢繆
就在不久之前,英偉達公司的H100芯片還是人工智能領域人人追逐的皇冠明珠。作為模型訓練過程中的榮譽勳章,這款芯片定義了人工智能開發者們競相標榜的時代。但隨着英偉達承諾每年實現代際跨越,老闆黃仁勳將每一代產品都宣傳為至關重要,如何處理舊硬件的問題就變得愈發重要。
英偉達的緊密合作夥伴、新興的新雲服務提供商CoreWeave公司對此提出瞭解決方案。這個方案雖不華麗也不特別巧妙,但巧妙地將AI工作中的兩個關鍵流程結合起來——訓練(將信息塞入AI模型中最密集但較短暫的操作)和推理(從數據庫中查詢以產生看似智能的響應,這項工作更大量且更常規)。當需要升級時,CoreWeave只需將這些過時的尖端硬件用於更簡單的工作。
“實際情況是,上一代硬件開始承擔推理工作負載,“首席執行官邁克爾·因特拉託上週告訴我。“我們沒有看到H100需求出現明顯下降,H100是當前最先進的Grace Blackwell架構的上一代產品。”
他所説的"基礎廣泛的推理需求正在消化這些算力”——算力是該行業對計算能力的統稱。許多購買最先進芯片進行模型訓練的客户,同時也"希望滿足日益增長的推理需求”。
作為英偉達高性能計算的最大部署方之一,CoreWeave提出了一個觀點:並非所有任務都需要最新硬件。事實證明,上一代硬件完全能勝任推理任務。如果CoreWeave的判斷正確,那麼GPU經濟的真正故事不僅在於追逐最新芯片的熱潮,更在於那些曾被視作過時硬件的"第二生命週期"正在延長。
CoreWeave正是這個故事的核心主角。它並非亞馬遜AWS或微軟Azure那樣的成熟超大規模雲服務商;其"新雲"定位源於其為AI工作負載量身定製的基礎設施。
其商業模式理論簡單但實踐殘酷:大舉借貸建設專業數據中心,鎖定OpenAI和微軟等客户,大規模出租算力。雖然增長迅猛但風險極高——必須保持超高利用率才能覆蓋融資成本,且舊芯片的轉售價值遠比在超大規模雲環境中重要。
這就是為什麼二級市場出現的H100顯卡值得關注。這些轉售交易及其價格將成為檢驗CoreWeave商業邏輯的試金石。
超大規模雲服務商淘汰舊硬件的速度極快:訓練任務永遠遷移到最新芯片,推理任務則轉移到更廉價的平台。新雲運營商面臨更大壓力——一旦未達利用率目標或不堪融資成本,就不得不拋售硬件減壓。其結果就是:大批輕度使用的H100將以驚人折扣湧入市場,提醒着所有人:這個行業的淘汰週期只有12-18個月。
過去一週,這一切在華爾街引發了巨大震動。CoreWeave公佈的財報顯示虧損擴大、資本支出激增,其前景展望嚇壞了投資者——自IPO以來這些投資者已將股價推高數倍。財報發佈次日股價暴跌21%,第三天又下跌15%。信號很明確:市場對AI算力的需求或許空前高漲,但事實證明,要快速擴張以滿足需求(同時不擠壓利潤率)比炒作週期所暗示的更為困難。
對尖端硬件的痴迷帶來了炫目的產品發佈、投資者的熱議和數十億美元的股價波動。但更深層的故事可能是老一代芯片如何被重新利用——無論是新雲運營商從昔日備受追捧的GPU中榨取推理價值,還是超大規模企業將庫存轉入轉售市場。
人物語錄
“你們會看到一羣經濟學家憂心忡忡地説’這太瘋狂了,太魯莽了’之類的話。而我們會回答’知道嗎?讓我們按自己的方式做事’。”
薩姆·奧爾特曼
OpenAI首席執行官
奧爾特曼預計OpenAI將在人工智能基礎設施上投入數萬億美元。### 閲讀
當日科技與娛樂領域閲讀量最高報道
面向消費者的Meta AI應用上線數月後,仍存在一些頑固缺陷,包括缺乏個性化功能,且無法將對話記憶同步至Meta旗下平台(儘管這些平台也接入了同款聊天機器人)。該應用還會展示其他用户(多為陌生人)生成的AI圖片,並偶爾出現幻覺現象。
這款應用的體驗參差不齊,與首席執行官馬克·扎克伯格將公司打造為人工智能領域領導者的雄心形成鮮明對比,也顯示出其在追趕競爭對手現有服務方面還有很長的路要走。
市場動態
- 14%美國最大芯片製造設備供應商應用材料公司週五創下五年來最大跌幅,此前該公司給出了令人失望的銷售和利潤預測。
AV俱樂部
硅谷資深人士佈雷特·泰勒探討了人工智能如何改變軟件行業,以及OpenAI董事會在公司重組中扮演的角色。泰勒將做客彭博科技欄目,與卡羅琳·海德和埃德·勒德洛展開對話。
更多彭博資訊
訂閲《科技內參》及其他彭博科技通訊:
- 《網絡簡報》——聚焦黑客與網絡間諜的暗黑世界
- 《遊戲進行時》——深入解析電子遊戲產業
- 《開機啓動》——獲取蘋果獨家消息、消費科技新聞等
- 《銀幕時間》——直擊好萊塢與硅谷的碰撞現場
- 《聲音片段》——報道播客、音樂產業及音頻趨勢
- 《問答AI》——解答您關於人工智能的所有問題