HBM不再一枝獨秀?華為新品或衝擊全球SSD市場

(文/觀察者網 呂棟 編輯/張廣凱)
8月25日,觀察者網獲悉,華為將於8月27日推出新款AI SSD(固態硬盤),這種硬盤並非用於個人電腦中的消費級SSD,而是用在大模型訓練和推理的數據中心中。
知情人士對觀察者網稱,華為推出新款AI SSD,旨在破解AI訓練推理中的“顯存牆”難題。傳統HBM(高帶寬內存)存在容量限制,而華為通過技術創新提供大容量SSD,同時提升數據吞吐效率,可大幅提升算力卡效率,為AI應用提供更強支撐。
單純看這一消息可能不太好理解,但結合華為近期在數據存儲領域的動向,就不難看出,華為是想通過軟硬兩手,降低對高性能HBM的依賴,讓可獲得的HBM更高效發揮作用,同時也能提升SSD的價值。
當下,國產DRAM(動態隨機存儲器)和HBM還與國外存在代際差距,同時美國還對HBM的出口和製造進行嚴格管制,但是國產NAND閃存技術已經取得長足發展,國產消費級和企業級SSD的競爭力明顯提升。
如果能減少高性能HBM的使用,充分發揮SSD的作用,就能一定程度降低模型訓練和推理的成本,緩解中國AI產業界對高性能HBM的依賴,是另一種“系統補單點”的思維。
就在前不久,華為曾推出一項名為UCM(推理記憶數據管理器)的技術。這種技術可以根據記憶熱度,在HBM、DRAM、SSD等存儲介質中分級緩存數據,相當於擴充了HBM的容量,讓模型能記住的KV Cache數據更多,同時能更智能、更快速的調用數據。
KV Cache可以優化計算效率、減少重複運算,但會對HBM顯存造成巨大壓力,而UCM的關鍵作用就是減輕HBM壓力,讓SSD在訓練和推理中發揮更大作用,這可能也是華為很快又推出新款AI SSD的原因。
“華為此次佈局,或對全球SSD市場形成衝擊。”前述人士對觀察者網稱,結合華為自研XtremeLink、SpeedFlex PCB等技術,成為國產SSD突破的關鍵一步。華為將與國內訓推一體機廠商合作,有利於中國構建全新AI生態鏈,應對全球化挑戰。
“AI SSD聚焦提升訓練效率和推理體驗, 存儲器領域不會僅有HBM一枝獨秀,有望形成百花齊放的競爭態勢。華為計劃與一體機廠商合作,改變現有局面,為AI存儲器市場注入新活力,帶來更多可能性。”他説道。
本文系觀察者網獨家稿件,未經授權,不得轉載。