芯片戰爭:中國初創企業擬以新型模型框架打破英偉達在AI領域的主導地位 | 南華早報
Ann Cao
由清華大學相關團隊開發的新人工智能(AI)框架據稱能降低AI模型推理對英偉達芯片的依賴,這標誌着中國在提升技術自給率方面的最新努力。初創企業清乘科技與清華大學計算機系翟季冬教授團隊週五聯合聲明稱,大語言模型高性能推理框架"赤兔"可在中國國產芯片上運行,挑戰了英偉達Hopper系列GPU在支持深度求索R1等特定模型時的主導地位。AI框架是構建複雜智能AI模型的基礎組件,提供了一系列庫和工具,使開發者能高效設計、訓練和驗證複雜模型。
該公司表示,自週五起開源的赤兔框架支持深度求索、Meta的Llama系列等主流模型。
測試顯示,在使用英偉達A800 GPU運行完整版深度求索R1時,該框架相較國外開源框架實現了315%的模型推理速度提升,同時降低50%的GPU佔用率。
05:00
中國低成本DeepSeek的問世是否意味着英偉達芯片霸主地位的終結?
中國低成本DeepSeek的問世是否意味着英偉達芯片霸主地位的終結?
此舉是中國人工智能企業為減少對英偉達依賴所採取的更廣泛努力的一部分。英偉達的高性能GPU受美國出口管制影響,其先進的Hopper系列H100和H800芯片被華盛頓禁止向中國客户銷售。