獨家:OpenAI與博通和台積電合作打造首款芯片,縮減代工雄心 | 路透社
Krystal Hu,Fanny Potkin,Stephen Nellis
OpenAI 標誌在2024年5月20日拍攝的插圖中可見。路透社/Dado Ruvic/插圖/檔案照片10月29日(路透社) - OpenAI 正在與博通 (AVGO.O) 和台積電 (2330.TW) 合作,打造其首款內部設計的芯片,以支持其人工智能系統,同時增加AMD (AMD.O) 芯片和Nvidia (NVDA.O) 芯片,以滿足其激增的基礎設施需求,消息人士告訴路透社。OpenAI,這家快速發展的ChatGPT背後的公司,已經審查了一系列選項,以多樣化芯片供應並降低成本。OpenAI曾考慮在內部構建所有內容,併為建立一個被稱為“鑄造廠”的芯片製造網絡的昂貴計劃籌集資金。
由於建立網絡所需的成本和時間,該公司目前已放棄雄心勃勃的鑄造廠計劃,並計劃專注於內部芯片設計工作,消息人士表示,他們要求匿名,因為他們沒有被授權討論私人事務。
該公司的戰略首次在此詳細説明,突顯了這家硅谷初創公司如何利用行業合作伙伴關係以及內部和外部相結合的方法來確保芯片供應並管理成本,類似於更大的競爭對手亞馬遜、Meta、谷歌和微軟。作為最大的芯片買家之一,OpenAI決定從多樣化的芯片製造商處採購,同時開發其定製芯片,可能對更廣泛的科技行業產生影響。
OpenAI、AMD 和 TSMC 拒絕發表評論。博通沒有立即回應評論請求。
OpenAI 幫助商業化生成性 AI,能夠對查詢產生類似人類的響應,依賴於大量計算能力來訓練和運行其系統。作為英偉達圖形處理單元(GPU)最大的購買者之一,OpenAI 使用 AI 芯片來訓練模型,讓 AI 從數據中學習,以及進行推理,基於新信息應用 AI 進行預測或決策。
路透社之前報道了 OpenAI 的芯片設計努力。信息時報報道了與博通及其他公司的談判。根據消息來源,OpenAI 已與博通合作數月,致力於構建其首個專注於推理的 AI 芯片。目前對訓練芯片的需求更大,但分析師預測,隨着更多 AI 應用的部署,對推理芯片的需求可能會超過訓練芯片。
博通幫助包括字母表 (GOOGL.O) 的谷歌在內的公司微調芯片設計以便於製造,並提供幫助快速傳輸信息的設計部分。這在 AI 系統中非常重要,因為數萬個芯片被串聯在一起協同工作。兩位消息來源表示,OpenAI 仍在確定是否開發或獲取其芯片設計的其他元素,並可能與更多合作伙伴合作。
該公司組建了一個約 20 人的芯片團隊,由曾在谷歌構建張量處理單元(TPU)的頂尖工程師領導,包括托馬斯·諾里和理查德·霍。
消息人士表示,通過博通,OpenAI已與台灣半導體制造公司(TSMC)確保了製造能力,以在2026年製造其首款定製設計的芯片。他們表示,時間表可能會改變。(2330.TW)目前,Nvidia的GPU佔據了超過80%的市場份額。但短缺和成本上升導致微軟、Meta以及現在的OpenAI等主要客户開始探索內部或外部替代方案。OpenAI計劃通過微軟的Azure使用AMD芯片,首次在此報道,顯示AMD的新MI300X芯片正試圖在Nvidia主導的市場中佔有一席之地。AMD預計在2024年AI芯片銷售額將達到45億美元,此前該芯片將在2023年第四季度推出。
訓練AI模型和運營像ChatGPT這樣的服務是昂貴的。OpenAI預計今年將出現50億美元的虧損,收入為37億美元,消息人士稱。計算成本,即處理大型數據集和開發模型所需的硬件、電力和雲服務費用,是公司最大的開支,這促使其努力優化利用率並多樣化供應商。消息人士補充説,OpenAI對挖掘Nvidia的人才持謹慎態度,因為它希望與其保持良好的關係,尤其是在獲取其新一代Blackwell芯片方面。
Nvidia拒絕置評。