OpenAI和博通(AVGO)正在合作開發專注於推理的人工智能芯片 - 彭博社
Edward Ludlow, Rachel Metz, Ian King
OpenAI 正在與 博通公司 合作開發一種新的人工智能芯片,專門用於在訓練後運行AI模型,消息來源於兩位熟悉此事的人士。
這家AI初創公司和芯片製造商還在諮詢全球最大的芯片代工廠——台灣半導體制造公司,消息人士表示,他們要求匿名,因為討論是私密的。OpenAI已經計劃定製芯片,並在大約一年的時間裏致力於這種技術的應用,但討論仍處於早期階段。
OpenAI拒絕置評。博通和台積電的代表沒有回應。路透社週二報道了OpenAI與博通和台積電的持續談判。 《信息》在六月報道 博通曾討論為OpenAI製造AI芯片。
將芯片從設計轉向生產的過程漫長且昂貴。OpenAI對圖形處理單元的關注較少,這些芯片用於訓練和構建生成性AI模型——這一市場已被 Nvidia公司 佔據。相反,它正在尋找一種專用芯片,用於運行軟件並響應用户請求,這一過程稱為推理。投資者和分析師預計,隨着更多科技公司使用AI模型來處理更復雜的任務,對支持推理的芯片的需求只會增加。
OpenAI可能會繼續研究建立自己的鑄造廠或芯片工廠,一位知情人士表示,但該初創公司意識到,與合作伙伴共同開發定製芯片是目前更快、更可實現的路徑。路透社早些時候報道,OpenAI正在撤回建立自己芯片製造能力的努力。
博通的股票在週二紐約交易中上漲了4.2%,收於179.24美元。即使在最新的漲幅之前,今年它們已經上漲了54%。台積電在美國交易的股票也上漲了超過1%。
博通是應用特定集成電路的最大設計商——這些芯片是為客户指定的單一目的而設計的。該公司在這一領域最大的客户是字母表公司的谷歌。博通還與Meta Platforms Inc.和TikTok的擁有者字節跳動有限公司合作。
當被問及上個月是否有新客户時,考慮到對AI訓練的巨大需求,博通首席執行官霍克·譚表示,只有在項目達到大規模出貨時,他才會增加客户名單。
“對任何客户來説,這不是一個容易部署的產品,因此我們不認為概念驗證算作生產量,”他在一次財報電話會議中説道。
OpenAI的服務需要大量的計算能力來開發和運行——其中大部分來自Nvidia的芯片。為了滿足需求,行業一直在努力尋找Nvidia的替代品。這包括採用超微半導體公司的處理器和開發內部版本。
OpenAI 還在積極計劃對數據中心的投資和合作,這些數據中心最終將成為 AI 芯片的家園。這家初創公司的領導層已經 向 美國政府提出了對更多大型數據中心的需求,首席執行官薩姆·阿爾特曼 也向 全球投資者,包括一些中東地區的投資者,尋求資金支持這一努力。
“這絕對是一個挑戰,” OpenAI 首席財務官薩拉·弗賴爾週一在彭博電視上表示。“從資本的角度來看是一個挑戰,但也是我個人的學習。坦率地説,我們都在這個領域學習:基礎設施就是命運。”