AI熱潮依賴芯片支撐,但供應卻捉襟見肘——《華爾街日報》
Deepa Seetharaman and Tom Dotan
谷歌首席執行官將人工智能革命比作人類對火的馴服。現在只差行業能否獲取數字"引火柴"來助燃這場革命。
作為新型生成式AI系統命脈的先進芯片短缺,已引發了一場爭奪算力資源和尋找替代方案的競賽。用於AI的圖形處理器(GPU)幾乎全部由英偉達生產。但隨着ChatGPT病毒式成功——這款能以類人方式回答問題的聊天機器人——其需求激增速度遠超供應能力。
“由於資源短缺,現在拼的是人脈關係,“幫助公司構建聊天機器人等AI模型的初創公司Lamini聯合創始人兼CEO周莎倫表示,“這就像疫情期間搶購衞生紙一樣。”
這種情況限制了亞馬遜、微軟等雲服務商向ChatGPT母公司OpenAI這類客户提供的算力。AI開發者需要服務器容量來開發運行其日益複雜的模型,並幫助其他公司構建AI服務。
即便是全球人脈最廣的科技企業家也在艱難獲取算力。在5月16日國會AI聽證會上,OpenAI首席執行官薩姆·奧爾特曼表示,由於處理器瓶頸,更少人使用ChatGPT或許是件好事。
“目前GPU比毒品還難搞到,”埃隆·馬斯克在5月23日的《華爾街日報》CEO理事會峯會上表示。
不過作為馬斯克確實有特權。知情人士透露,今年早些時候,當初創公司爭搶甲骨文雲計算資源時,突然被告知有位買家已搶購了該公司大部分閒置服務器容量——這些初創公司後來得知,買家正是正在打造OpenAI競品X.AI的馬斯克。
對於訓練能生成原創文本和分析內容的大型AI模型的企業而言,獲取數萬塊先進顯卡芯片至關重要。初創公司創始人表示,若沒有這些芯片,支撐AI運行的大語言模型研發進度將大幅延緩。英偉達高端顯卡芯片擅長並行海量運算,這對AI工作至關重要。
瑞銀分析師估算,早期版本的ChatGPT需要約1萬塊顯卡芯片。馬斯克預估新版模型需要英偉達高端處理器的數量是此前的3至5倍。
特斯拉、SpaceX和推特老闆埃隆·馬斯克與《華爾街日報》的託羅德·巴克探討科技話題。圖片來源:John Scrivener/WSJ英偉達近期表示正擴大供應以滿足激增需求。首席執行官黃仁勳週日稱已加速生產新一代旗艦級生成式AI芯片H100。“全球每個角落都在瘋狂搶購,“他在台灣某展會上宣佈一系列AI新計劃時説道。
對英偉達產品的需求已推動該公司股價上漲約167%。芯片成本各異,但英偉達先進AI芯片的零售價約為3.3萬美元,在旺盛需求下二級市場價格可能更高。
部分投資者正在網絡中搜尋閒置算力,另一些則協調處理器和服務器容量的批量採購,供其AI初創公司共享。據AI投資者和初創企業透露,為提升效率,初創公司正精簡AI模型,購置搭載相關顯卡的實體服務器,或轉用甲骨文等小眾雲服務商,直至短缺緩解。
其他創始人則直接向亞馬遜和微軟的銷售員乞求更多算力。
周女士(與英偉達前工程師共同創立Lamini)表示公司已獲得所需芯片。她和《華爾街日報》採訪的多位創始人均拒絕透露具體獲取方式。
“行業對GPU需求強勁,“OpenAI發言人表示,並稱公司致力於保障客户所需算力。
甲骨文和馬斯克未回應置評請求。微軟和亞馬遜拒絕評論。
許多AI創始人預計短缺將持續至明年。
部分企業因擔心後續無法獲取而鎖定雲容量。“即便當前不需要,人們仍在持續付費,“Arthur公司CEO亞當·温切爾表示,該公司開發工具幫助企業防範數據泄露等AI風險。
創始人和投資者表示,能夠獲得計算能力的公司仍需等待數週才能使用。“即使你已經預付了費用,也不意味着GPU會在第二天或下週到位,“開發AI驅動對話搜索工具的Perplexity AI首席執行官Arav因德·斯里尼瓦斯説,“你只能等待。”
服務器製造商及其直接客户表示,他們需要等待超過六個月才能獲得英偉達的最新圖形芯片。最大服務器製造商之一超微公司的首席執行官表示,配備圖形芯片的系統的積壓訂單達到歷史最高水平,公司正在緊急增加產能。
這一切為這些先進芯片創造了一個二級市場,部分涉及在繁榮時期購買芯片進行挖礦的大型加密公司,而如今數字貨幣市場低迷,它們不再需要這些芯片。
人工智能研究公司Generally Intelligent的首席執行官邱侃君自去年開始為自己的服務器購買先進的圖形芯片,使她能夠度過當前的短缺。一位風險投資家最近發消息問她是否有閒置容量可以租給其他初創公司。邱尚未決定是否出讓她的芯片。
與此同時,OpenAI的阿爾特曼和其他員工一直在處理在其平台上構建AI服務的公司的投訴。
為醫生開發AI助手的Nabla首席執行官兼創始人亞歷克斯·勒布倫表示,OpenAI的軟件可能需要長達兩分鐘才能響應查詢。Nabla使用AI自動生成筆記、轉診信和臨牀建議,其客户期望這些筆記能夠即時生成。
作為一種變通方案,Nabla構建了一些更簡單的模型以更快生成材料的初稿,Lebrun表示,然後依賴最新版本的ChatGPT進行最終調整。“優秀的初創公司是那些學會如何繞過所有這些限制的公司,“Lebrun説,並補充説他已直接向Altman提出了這些問題。
Altman和其他OpenAI代表已告訴創始人,公司正與其最大投資者和數據中心提供商微軟合作解決這個問題。
—Asa Fitch對本文有貢獻。
聯繫Deepa Seetharaman,郵箱:[email protected],聯繫Tom Dotan,郵箱:[email protected]
刊登於2023年5月30日印刷版,標題為’AI熱潮所需芯片供不應求’。