異構計算的“備胎上位記”_風聞

半導體芯片行業，突然就，刷屏了……

川普舉全美國之力給華為抬咖，這波騷操作着實令人目瞪狗呆。

不過，在雙方吵着“抱走我家芯片不約”“專注自家、獨自美麗”的時候，或許我們可以將目光放在技術本身，來聊聊那些必需而重要的芯片產業佈局。

首當其衝的，當屬同樣“備胎轉正”的異構計算了。

我們知道，長久以來半導體產業一般會專注在幾種芯片上。無論X86、ARM、RISC，一個CPU裏面的計算單元都是同樣的架構。而所謂異構，就是將CPU、DSP、GPU、ASIC、FPGA等不同製程架構、不同指令集、不同功能的計算單元，組合起來形成一個混合的計算系統。

異構計算技術在上世紀80年代就已經誕生的，但這兩年才開始在產業中顯露鋒芒，並快速取代通用CPU，站上了行業“C位”。

比如英特爾最新推出的AI平台，就包含了CPU、GPU、DSP、NNP、FPGA等一系列不同的處理核心。英偉達的機器人平台Jetson Xavier也包含了6種處理器，GPU/CPU/NPU/NVDLA等/一個都不能少。

眾多雲計算服務廠商也相繼升級了異構計算解決方案。比如上週華為剛剛發佈的數據庫GaussDB產品，就運用了X86、ARM、GPU、NPU等多樣算力來執行計算。

智能手機SoC也開始在傳統的CPU/GPU/ISP/基帶芯片之外，加入了加速DSP、圖形處理單元NPU等。

那麼問題來了，在超級計算領域取代了同構計算，成為芯片大廠們爭奪的對象，異構計算到底憑什麼？半導體行業集體擁抱異構計算的背後，又埋藏着那些老問題和新機遇呢？

WHY：異構計算上位史

先來解答一個問題，為什麼CPU用的好好的，大家突然集體打起了異構計算的主意？

最直接的原因，是計算密集型領域的快速崛起，面對計算需求的爆炸式增長，讓單一芯片越來越力不從心了。

近幾年，半導體技術在縱向提速上已經達到了物理極限，處理器性能再也無法按照摩爾定律（每18個月就能翻倍）再創輝煌。

英特爾在2016年將研發週期從兩年延長到了三年。而受到CPU並行計算能力的限制，超級計算機常常要並聯上萬顆處理器來進行工作。

另一個關鍵影響是，人工智能在計算場景中越來越受到重視。尤其是移動終端設備中，AI正在以多種模式出現在應用中。除了打電話發短信等基礎通訊通能之外，還需要處理圖片、娛樂遊戲、高清攝像頭等各種各樣的信息，提供個性化智能推送、預測等服務，這些計算的需求已經遠遠超過了傳統CPU處理器的能力所及。

對此，GPU芯片廠商NVIDIA直接在2017年提出了半導體產業的新口號“摩爾定律已死，人工智能萬歲!”(Moore’s Law is dead, long live AI.)。

當單一芯片無法滿足高性能計算的算力需求，於是，異構計算被時代選中了……

簡單總結一下異構計算“多兵種協同”的核心優勢：

首先最重要的，就是提高了處理效率。

異構計算能夠充分發揮CPU/GPU在通用計算上的靈活性，及時響應數據處理需求，搭配上FPGA/ASIC等特殊能力，來充分發揮協處理器的效能，根據特定需求合理地分配計算資源。

這樣做的好處顯而易見，在處理速度和功耗之間找到平衡，達到高效又省電的效果。

舉個例子，在智能手機AI芯片“兩強”高通和麒麟，前者的SoC裏面就包括了加速3D的GPU、處理照片的ISP、處理通信的基帶芯片、加速向量計算的DSP等。麒麟980最新的異構計算架構，也基於CPU、GPU、NPU、ISP、DDR進行了全系統融合優化，尋求更強的性能和續航。

異構計算的另一個優勢，則是成本利好。

由於目前神經網絡算法和與之對應的計算架構層出不窮，如果每逢“上新必剁手”，採用不斷更新ASIC架構的方式，最終下沉到用户和企業身上，就會導致使用成本和替換成本過高。

因此，最好的解決辦法就是將多種計算架構融合在一起，大家集體做功，生命週期就長的多了，在產業落地上具有更大的優勢。

除了對硬件性能和產業應用的強勢提升，異構計算還有一個更深層次的價值，就是在單個國產同構芯片水平暫時落後於國際水平的情況下，極有可能成為中國芯片彎道超車的歷史機遇。

HOW：異構到底怎麼構？

既然異構計算無論是從國家戰略層面還是個人應用上都無比重要，那麼，將不同類型的芯片放在一起，到底該怎麼構呢？

體現在硬件上，目前主要集中發展兩種模式：一種是芯片級（SoC）異構計算，比如英特爾的KabyLake-G平台，就是將英特爾處理器與AMD Radeon RX Vega M GPU進行異構。華為去年推出的Kirin 970，就是在CPU和GPU的的基礎上，集成了專門為深度學習定製的NPU，來進行推理等高密度計算。

另一種則是英特爾提出的超異構計算。通過EMIB、Foveros等封裝技術，將經過性能驗證的小芯片裝配到一個封裝模塊之中。

去年，英特爾就公佈了一塊集成了英特爾10nm IceLake CPU和22nm Atom小核心的異構主板芯片LakeField。 將高負載和低負載兩種處理核心集成在一起，在尺寸上又比簡單粗暴的板卡式集成小很多。

從硬件解決方案上看，異構計算就是各個處理核心之間的排列組合嘛，好像和搭積木的技術難度差不多。不過，想要搭建一個理想的協處理器，裏面還是有不少竅門的。

作為前提，就要要了解各個處理器的具體能力，然後根據為性能、功耗、價格、效能等， 做出獨家配方。

通常情況下，異構計算會選擇CPU、GPU、FPGA、ASIC來進行排列組合。他們分別有什麼優勢呢？

穩定多能便宜大碗的CPU，就是計算一塊磚，哪有需要往哪搬，是所有異構方案中都不能捨棄的。

那麼，選誰跟它組cp就成了差異化的關鍵。

其中，GPU能夠執行高度線程化的多進程併發任務，在需要複雜控制的大規模任務中，可以助CPU一臂之力。比如性能強勁的個人電腦，GPU就是不可或缺的存在。

FPGA中文名叫做“現場可編程門級列陣”，顧名思義，就是可以重新編程佈線資源，因此，可以用來實現一些自定義的特殊硬件功能。而且，它的計算效率要比前兩個同伴都高，很適合處理AI算法，很快成為CPU的左膀右臂。

還有一個性能強勁但不太愛拋頭露面的選手，那就是“特殊訂製集成電路”ASIC。它的編程方式是直接在物理硬件（門電路）上搭建電路，由於不需要取指令和譯碼，每個時間單位都能專注於數據處理和傳輸，因此是所有協處理器中性能最高的一個， 功耗卻是最小的。不過，由於需要底層硬件編程，它的定製也昂貴而漫長，屬於江湖傳説型的存在。

目前，異構計算的江湖主要有三個分支，分別是CPU+GPU，適用於大多數通用計算，是目前異構計算使用最多的組合陣容；

CPU+FPGA，價格較高，大多是企業用户（如華為、百度、IBM等）用來進行深度學習加速；

CPU+ASIC，應用較少，適合一些市場大、投資回報清晰、有一定開發週期的領域，比如消費電子。

隨着技術的迭代，未來我們還很有可能看到CPU＋GPU＋FPGA之類的多芯片協同場景。比如華為剛剛發佈的Atlas平台，就能針對多個GPU/FPGA之間的拓撲結構進行動態編排，進一步提升系統的整體性能。

不得不説，異構計算打開這扇新世界的大門，正在為超級計算帶來充沛的想象力，整個計算行業生態無不積極地參與其中。

不過，想要將異構計算下沉到龐大的產業體系裏，事情並沒有我們想象的那麼容易。

WHEN：異構計算的崛起，不只靠技術

前面我們介紹了異構計算的前世今生。但如果問一句，何時能看到異構計算帶來的實際效果，答案可能不會讓人驚喜。原因也很簡單，異構計算的崛起，靠的不只是技術，更重要的是來自應用端的積極準備。

但是，在“計算之光”的盛譽之下，異構計算無論是採購、部署、使用門檻都很高。這就導致其應用中面臨不少挑戰：

比如在成本上，如果不能實現規模化採購，異構計算芯片的採購成本都很高。智能手機廠商還可以憑藉規模化優勢進行議價，而一般的企業用户和個人開發者，單量小的話採購價格特別高，尤其是FPGA、AISC等定製類板卡，距離大範圍應用還很遙遠。

另外，異構計算的芯片交付週期也很長。作為人工智能的大腦，全球GPU一直處於供應短缺的狀態，英偉達對每家公司每天購買的芯片數量進行了限購措施。而FPGA 和 ASIC這樣可編程的芯片，由於編程標準未確立、定製時間等原因， 企業從硬件架構設計、下單、交付往往需要幾個月的時間。

這樣導致的結果就是，數量和產品都是固定的，一方面可能造成算力資源與實際應用之間的不匹配，還可能由於新的GPU/FPGA架構上線，而不得不持續追加預算。導致企業的升級成本居高不下，自然心存疑慮。

即使上述所有問題都搞定了，一把手爽快打錢，芯片順利到貨，硬件成功部署，也很有可能出現另一種情況，就是線下的GPU/FPGA和線上的服務無法打通，造成資源浪費和數據孤島問題。

好氣哦，不自己搞了行不行，直接將雲服務商的異構計算拿過來用就好？

悲傷地告訴你，坑也很多。因為GPU、FPGA這些超高性能的器件在經過雲端虛擬化之後，性能損失非常嚴重，都會出現相應的下降。而不同廠商的硬件優化能力和解決方案千差萬別，如何選擇合適的平台又成了問題。

如此看來，異構計算的出現和下沉，簡直就是一個“掃雷”遊戲。或許等到有實力的廠商們將這些暗處的障礙一一掃除，異構計算帶給數字世界的真正價值才會浮現出來。

而中國芯片企業直接用異構計算向老牌巨頭髮起挑戰的時候，產業迭變過程中的種種變數與可能性，將比技術本身還要精彩。