Deepseek繞開CUDA?誤讀!_風聞
贾明冬-观察者网编辑-昨天 18:37
Deepseek繞開英偉達CUDA的事情,最近引起了很多討論。實際上這是一條被誤傳的信息,Deepseek可能沒有直接使用CUDA,而是直接對PTX進行優化,但問題在於目前市面上絕大多數的PTX仍然是CUDA生態的一部分。因此,説Deepseek完全繞開了CUDA,打破了英偉達的壟斷並不準確,想要做到這一點需要中國公司繼續在國產硬件替代上發力。
如果你需要調用硬件進行計算,那麼你就需要編寫一個指令集,這就需要使用高級編程語言。如果你使用的硬件是英偉達的,那麼就需要使用他們家的工具CUDA。英偉達的官方網站是這麼描述CUDA的:CUDA是由 NVIDIA 開發的一個並行計算平台和編程模型,用於圖形處理單元 (GPU) 的通用計算。通過 CUDA,開發人員可以利用 GPU的能力極大地提高計算應用程序的速度。在使用CUDA時,開發人員可以使用多種流行的編程語言,例如C語言、Python。
也就是説,英偉達的CUDA可以理解為一種協助開發的工具,你如果要使用英偉達的顯卡,那麼一般來説使用CUDA就是最省事,較為效率的辦法。

英偉達的PTX(Parallel Thread Execution 並行線程執行)是什麼呢?它是一種低級別的並行線程執行虛擬機和指令集架構。PTX將 GPU暴露為數據並行計算設備。PTX能夠針對CUDA和像C語言這樣的高級語言編譯器生成PTX指令。接下來,PTX將被進一步編譯為SASS(流式彙編程序),一種相當接近二進制機械語言的指令,以便在特定型號的GPU上執行。這些過程是即時演算的。

如圖所示,CUDA和PTX的關係並不是互相取代的關係,而是CUDA高級語言到PTX低級語言,最後到二進制語言的上下層關係。

現在國內外網傳的説法是,Deepseek不使用CUDA而是直接使用低一層級的PTX彙編語言進行編程,從而繞過了CUDA的壟斷。這個説法的問題在於,英偉達的PTX仍然是CUDA生態的一部分,而且如果想要在英偉達的顯卡上執行指令,仍然需要將PTX進一步編譯為更低級的機械代碼SASS,執行這一步驟的編譯工具仍然是CUDA的一部分。
Deepseek繞開了CUDA的説法是怎麼來的?最早這還真不是中文互聯網上的消息,而是韓國未來資產證券的研究員提出的説法,隨後被數個英文技術交流論壇轉載,並加以評論,最終被引進到了中文互聯網社區。所謂突破CUDA護城河的説法,便進一步演變而來。目前,Deepseek方面並沒有對於這種説法發表正式評論。
而且直接使用PTX編程的説法聽起來相當驚人,因為其作為低一級的彙編語言,對於人類來説相當難以理解。並非是不能直接用其編程,而是效率較低,難度過高。之所以説C語言、python等高級語言“高級”,是因為其更加接近人類思維邏輯,便於人類使用。PTX、SASS的“低級”在於它更不便於人類理解,更接近機械邏輯。
我們以此可以做出兩個推論,一,深度求索裏有極其天才的工程師,完美理解PTX,只用PTX,推理速度更是無人能及,一手PTX編程大法爐火純青。這個可能性不是很高,這都快成戰錘裏機械神教的技術神甫了,開口就是01001二進制語言。因此,我覺得第二個推論可能更靠譜,深度求索的天才工程師們部分使用PTX編程,對上一級語言的運行效率進行了優化,以至於不需要那麼高算力的顯卡,就可以訓練出Deepseek這樣極其強大的模型。
為什麼要這麼做?大概率就是因為深度求索沒有那麼多的高算力顯卡,所以必須儘可能提高使用效率。
進一步講,有些網傳説法就顯得很可笑了。美國人工智能數據基礎公司Scale AI創始人兼首席執行官Alexandr Wang在接受CNBC採訪時稱,DeepSeek擁有大約五萬塊英偉達H100芯片。你是説英偉達頂着拜登的禁運,給中國賣了5萬塊卡?這等於是在説美國監管機構不存在了,反華戰略不存在了,老黃是敵特。簡直是頂級反美宣傳,侮辱性不亞於把拜登的頭擰下來當球踢那種。
所以講Deepseek還是要現實一點,目前其攻破的只是算力護城河,告訴了全世界不需要頂級算力,也能出頂級模型。這必然會打擊英偉達的溢價空間,但由於英偉達一系列軟硬件生態的存在,突破壟斷仍然任重而道遠。
另外,從定義上講,什麼叫真正的繞開了CUDA?其實就是繞開了整套英偉達生態。摩爾線程就有自己的CUDA替代品MUSA。而英偉達在維護自己的護城河上也是不遺餘力,去年3月就禁止了CUDA的轉譯,這不只是針對中國企業,也是針對所有的競爭對手。看看,什麼叫做真技術封建主義啊?

總之,Deepseek繞開CUDA的説法,是一種並不精準的片面解讀。像摩爾線程、華為昇騰,這些完完全全的國產替代才是真叫繞開了CUDA。而Deepseek方面正在積極適配各種國產替代平台,這也會反過來促進國產替代技術的發展。毫無疑問,Deepseek能極大程度地提升中國產業界攻堅高新技術的信心,而這將是一個開始,更加激烈的鬥爭還在後面呢。