騰訊AI Lab宣佈開源PocketFlow項目 提供技術支持
【環球網科技綜合報道】11月1日,騰訊AI Lab在南京舉辦的騰訊全球合作伙伴論壇上宣佈正式開源“PocketFlow”項目, 該項目是一個自動化深度學習模型壓縮與加速框架,整合多種模型壓縮與加速算法並利用強化學習自動搜索合適壓縮參數,解決傳統深度學習模型由於模型體積太大,計算資源消耗高而難以在移動設備上部署的痛點,同時極大程度的降低了模型壓縮的技術門檻,賦能移動端AI應用開發。
這是一款適用於各個專業能力層面開發者的模型壓縮框架,基於Tensorflow開發,集成了當前主流與AI Lab自研的多個模型壓縮與訓練算法,並採用超參數優化組件實現了全程自動化託管式的模型壓縮。開發者無需瞭解具體模型壓縮算法細節,即可快速地將AI技術部署到移動端產品上,實現用户數據的本地高效處理。
據介紹,目前該框架在騰訊內部已對多個移動端AI應用模型進行壓縮和加速,並取得了令人滿意的效果, 對應用整體的上線效果起到了非常重要的作用。
在騰訊公司內部,PocketFlow框架正在為多項移動端業務提供模型壓縮與加速的技術支持。例如,在手機拍照APP中,人臉關鍵點定位模型是一個常用的預處理模塊,通過對臉部的百餘個特徵點(如眼角、鼻尖等)進行識別與定位,可以為後續的人臉識別、智能美顏等多個應用提供必要的特徵數據。基於PocketFlow框架,對人臉關鍵點定位模型進行壓縮,在保持定位精度不變的同時,大幅度地降低了計算開銷,在本身已經十分精簡的網絡上取得了1.3 ~ 2倍不等的加速效果,壓縮後的模型已經在實際產品中得到部署。
在人體體態識別項目中,PocketFlow更是在滿足上線精度的要求下,使得模型推理速度有3倍以上的加速, 為項目的移動端落地起到了決定性的作用。