我國自主深度學習之平台比肩國際主流

近日，百度公司宣佈旗下“飛槳”深度學習開源開放平台又一次迎來20多項功能發佈和技術升級。這些發佈和升級包括提升核心框架性能和易用性、新增產業級模型庫、發佈端側推理引擎PaddleLite、發佈面向產業應用場景的端到端開發套件（自然語言處理領域的ERNIE語義理解、計算機視覺方向的PaddleDetection目標檢測和PaddleSeg圖像分割、智能推薦方向的ElasticCTR點擊率預估）等。

百度首席技術官、深度學習技術及應用國家工程實驗室主任王海峯向《中國科學報》表示，功能發佈和技術升級後，飛槳平台的深度學習模型開發能力、訓練能力、預測和部署能力進一步提升，可比肩TensorFlow、PyTorch等國際主流框架，在多項技術上有優於後者的表現。

智能時代的操作系統

“深度學習框架上承各種應用、下接芯片等硬件，起到了承上啓下的作用，是‘智能時代的操作系統’。”王海峯説，然而，在2016年之前，國內外開發者主要基於谷歌TensorFlow、臉書PyTorch、亞馬遜MxNet等國外深度學習框架進行人工智能算法、模型的開發、訓練與部署。

百度飛槳的開源開放及不斷升級打破了這一侷限。尤其是經過多輪升級和打磨之後，如今飛槳平台在深度學習框架的開發、訓練、預測及部署等核心能力上均有着比肩甚至超越國外主流框架的表現。這使得我國人工智能（AI）技術開發者和使用者不必依賴於國外平台，同時還可進一步培育自主可控的AI開發應用生態。

飛槳是我國目前唯一具有完全自主知識產權的全功能性產業級深度學習的平台，包括核心框架、模型庫、開發套件、工具組件和服務平台五大部分。百度技術團隊自2018年以來對飛槳進行了全面升級，並進行大規模推廣。

優於國外框架的使用體驗

近兩年來，飛槳圍繞深度學習框架的基本功能、性能、芯片支持的完備性等技術指標進行了一系列的易用性開發和性能迭代，為開發者提供了優於國外框架的使用體驗。

在開發能力方面，飛槳除了支持對常用API的調用之外，還在編程範式上同時支持聲明式編程和命令式編程，兼具很好的靈活性和穩定性，可滿足不同開發者的開發習慣，更易上手。另外，飛槳提供了“自動化網絡結構設計”這一工具，在多個任務上實測顯示自動化設計水平已超過人類專家。

百度深度學習技術平台部總監馬豔軍告訴《中國科學報》，該領域頂級學術會議之一AAAI第一篇有關圖像風格遷移網絡的自動化網絡結構設計的論文即來自百度飛槳技術團隊。

在訓練方面，飛槳平台突破了超大規模深度學習模型訓練技術，研製了千億特徵、萬億參數、數百節點的開源大規模訓練平台，實現了萬億規模參數深度學習模型的即時更新。

“當前國際主流的開源框架還停留在僅支持千億參數或更低規模的模型訓練的水平，飛槳這一突破解決了大規模產業應用的難題。”王海峯説，有的大型科技公司每天會有百億級數據量，所需模型規模參數量達萬億級別，這要求深度學習的平台的訓練能力與之匹配。例如，OPPO在應用商店的應用推薦場景，使用基於飛槳的分佈式訓練技術，訓練速度（16個訓練節點）相比單機TensorFlow提升8倍。

在預測、部署環節，飛槳技術團隊在各類硬件適配上做了大量工作，當前可以輕鬆地部署到X86 CPU、英偉達GPU、Mali GPU、華為NPU等8種不同架構的平台設備上，並在對華為、寒武紀等國產AI芯片的適配方面取得了顯著效果。比如在華為麒麟芯片上，無論推理速度還是能效都有大幅提升。

同時，飛槳平台和其他開源框架訓練的模型也能無縫銜接，可進一步突破模型推理速度。

“產業級應用要求很苛刻，推理速度快的優勢盡顯。比如質檢線上一個零件的停留時間只有數十毫秒，如果推理速度不夠，可能導致機器無法及時完成缺陷識別。”馬豔軍舉例説，飛槳下大力氣結合許多苛刻場景做了性能優化，目的就是推動飛槳在工業場景的應用。在已上線飛槳計算機視覺相關模型的上海和輝光電OLED及重慶京東方LCD不良檢測項目中，產品漏檢率、過檢率相較應用前均有數倍提升。

評測數據顯示，通過採用CPU全異步並行，飛槳平台在點擊率預估模型、詞向量模型上比TensorFlow快8~10倍；在GPU多機多卡同步訓練下，飛槳在多個模型下評測訓練速度比TensorFlow快30%~70%。

在上述能力強化的基礎上，飛槳官方支持100多個經過長期產業實踐打磨的主流模型，其中包括在國際競賽中奪得冠軍的模型，同時開源開放200多個預訓練模型，以助力快速產業應用。

培育自主可控的AI生態

統計數字顯示，飛槳當前擁有超過6.5萬企業用户，在定製化訓練平台上發佈了16.9萬個模型，且模型數量呈現顯著增長趨勢，在工業、農業、服務業等各行各業中廣泛應用。同時，飛槳已經累計服務150萬開發者，這一數字約佔中國軟件從業平均人數的1/4。

不過，與TensorFlow等相比，飛槳在生態構建上仍然有較大發展空間。“生態體系不是一朝一夕培育起來的，國外框架幾年前就開始在中國大規模推廣了，目前滲透很深。”王海峯説，“我們希望有關多方圍繞深度學習框架和平台這個核心形成合力，下大力氣培育自主的生態體系。”

中國科學院計算技術研究所研究員陳雲霽今年發表在《中國計算機學會通訊》上的《智能計算系統——一門人工智能專業的系統課程》一文中提到，越是人工智能上層（算法層、應用層）的研究，我國研究者對世界作出的貢獻越多；越是底層（系統層、芯片層），我國研究者的貢獻越少。

“在各種ImageNet比賽中，我國很多機構的算法模型已經呈現霸榜的趨勢，可以説代表了世界前沿水平。但這些算法模型絕大部分都是在CUDA編程語言、TensorFlow編程框架以及GPU之上開發的。在這些底層的‘硬科技’中，我國研究者對世界的貢獻就相對少了很多。”對這一現象，陳雲霽表示擔憂，“底層研究能力的缺失不僅給我國人工智能基礎研究拖後腿，更重要的是，將使得我國智能產業成為‘空中樓閣’，走上信息產業受核心芯片和操作系統制約的老路。”

對此，王海峯表示，國產智能芯片和深度學習框架都是構建我國自主AI生態的關鍵，智能時代深度學習的平台一定要和AI芯片對接，不僅要做軟件的優化，還要軟硬一體，跟芯片一起聯合優化。

“如果不發展自主芯片、操作系統，國內也就培養不出相應的人才——維護好自己的社區，跟在別人構建的社區中修修補補是完全不一樣的。我國在智能時代不能再讓受制於人的歷史重演，這也是百度大力做飛槳平台的意義所在。”王海峯表示，無論是推動AI技術從實驗室走向產業，還是自主AI生態構建，飛槳深度學習框架未來將繼續發揮重要作用。