推理性能提升13倍！百度智能雲發佈崑崙芯超節點_風聞

4月25日，以“模型的世界，應用的天下”為主題的Create 2025 百度AI開發者大會在湖北武漢召開。會上，百度集團執行副總裁、百度智能雲事業羣總裁沈抖分享了百度智能雲在智能基礎設施建設方面的最新成果，並在算力、模型及應用等方面發佈一系列全新產品。

大模型的高效落地亟需從底層算力到應用的全棧、系統級支撐——既需高性能硬件與集羣優化，也需靈活的開發工具鏈與場景化解決方案。基於多年在大模型研發與產業落地的深厚積累，百度智能雲構建了新一代系統級智能基礎設施，為企業大模型應用落地提供最佳解決方案。

相關數據顯示，2024全年百度智能雲在大模型相關中標項目數、行業覆蓋數、央國企中標項目數三個維度均為第一，在能源、政務、金融三個行業的中標項目數位於所有廠商第一。截止目前，千帆平台企業用户數量超40萬，千帆平台組件數量超1000個，企業在千帆平台上已開發出了超100萬個應用。

沈抖表示，系統的價值，不僅是解決某一個問題，而是讓企業擁有創造“創造的能力”。企業可以結合自己的數據、流程、邏輯，利用百度智能雲的系統級能力打造企業專屬AI基礎設施。

百舸+崑崙芯超節點：推理性能提升13倍、成本降低95%

算力是AI時代的“新電力”。百度智能雲通過自研崑崙芯P800芯片及百舸大規模推理加速能力，實現算力性能與成本的雙重突破。

本次大會，百度正式點亮了崑崙芯P800的三萬卡集羣。在金融行業，招商銀行與百度智能雲基於崑崙芯P800展開算力合作，能穩定支持各類開源大模型，性能表現卓越，在智能客服、多模態數據分析等場景實現了顯著效能提升。目前，除了招商銀行這類金融機構，崑崙芯P800算力已在國家電網、中國鋼研等央企，同濟大學、北京大學等高校及一批互聯網企業進行規模化部署。

為了進一步降低算力使用成本，百度智能雲正式發佈崑崙芯超節點。

崑崙芯超節點支持把64張崑崙芯AI加速卡放到同一個機櫃，實現單節點的超強性能，一個機櫃就能頂過去100台機器。與以往的方案相比，崑崙芯超節點用更快的機內通信替代機間通信，可以有效降低帶寬成本，最終實現卡間互聯帶寬提升8倍，單機訓練性能提升10倍，單卡推理性能提升13倍。

僅僅擁有高性能芯片和大規模集羣是遠遠不夠的，如何穩定、高效地釋放算力的真正價值才是關鍵所在。沈抖認為，未來三年，推理降本，一定是企業最重要的工作。

百度智能雲全面升級百舸推理加速能力。通過大規模分佈式推理的PD分離，百舸支持客户根據不同場景的業務特點，自適應地設置PD配比，並做到token級別的PD負載均衡。針對MOE模型，百舸做到了大規模多機專家並行的極致優化，可以大幅降低MOE模型推理的通信開銷。最後，百舸對核心鏈路上的每一個細節做了系統級的工程優化，大幅提升GPU的有效利用率。

**從百度內部實踐來看，百舸推理加速的能力正在作為千帆的算力底座，為40萬客户提供服務。上線以來，千帆的推理吞吐提升20倍，推理速度提升50%以上。**在外部，百舸不止支持着像招商銀行、中國石化、長安汽車等企業的超大規模算力需求，也很好地支撐着創企客户、夥伴的模型訓練、推理需求。

以北京人形機器人創新中心為例，百度百舸為創新中心構建了穩定的超大算力集羣，確保具身模型的訓練和推理得以高效進行，支持了人形機器人的快速迭代。在近日全球首個人形機器人半程馬拉松中，北京人形機器人創新中心旗下純電驅全尺寸人形機器人“天工”，以2小時40分42秒的成績率先衝線一舉奪冠。

為企業應用開發提效！千帆發佈智能體Pro及MCP服務

企業部署大模型，不僅需要高性價比的模型服務，更需要全面的模型工具。在模型服務層面，目前千帆平台上有超過100多個模型，不僅包括文心4.5Turbo、文心X1 Turbo等百度自研模型，還包括DeepSeek、Ilama、Vidu等第三方模型，服務穩定、可靠。在模型開發層面，千帆平台可以提供全面的模型開發工具鏈，支持深度思考模型、多模態模型的定製、精調。

以模型蒸餾為例，智聯招聘在人崗匹配場景使用了千帆平台的模型蒸餾工具鏈，用千億參數的DeepSeek R1作為“教師模型”，用百億參數的ERNIE Speed作為“學生模型”，經過調優後的小參數模型，不僅可以媲美“教師模型”的效果，成本也降低至3成。

在應用開發上，本次大會千帆平台全面升級了企業級Agent開發工具鏈，發佈了全新推理式智能體——智能體Pro，從快問快答升級到深思熟慮，並且支持每個企業定製自己的專屬智能體。以污水寶為例，基於千帆Agentic RAG能力，讓Agent結合企業自己的私域數據和企業知識庫，可以基於對任務的理解去制定檢索策略，大幅降低模型幻覺。同時，智能體Pro也支持Deep Research深度研究模式，能讓Agent自主完成複雜任務的步驟規劃、信息篩選和整理，支持像人一樣操控電腦瀏覽網頁（computer use）進行探索式知識收集，也支持像人一樣使用多種工具繪製圖標、撰寫，生成結構清晰、內容豐富的專業報告。

基於DeepResearch能力，榮耀正在利用千帆平台，面向高校學生、職場白領等羣體，打造一款科研場景深度研究的應用，將很快會在榮耀筆記本上上線。

MCP的出現，幫助開發者和企業在開發Agent時，能夠更好地利用行業數據和工具。本次大會，**百度智能雲正式發佈國內首個企業級MCP服務，第一批已經有超過1000個MCP Servers 供企業及開發者靈活選擇。**另外，開發者也可以在千帆上開發自己的MCP Server，併發布到MCP廣場，支持免費託管，而且百度搜索也會索引這些MCP Server，讓它們被更多的開發者引用。

從模型服務到應用開發，企業客户已經在千帆平台上做出了很多行業創新。民生銀行與百度智能雲合作，探索大模型在商業銀行的落地，完成了金融領域第一個端到端涵蓋算力、平台、模型、應用四層架構的項目落地。

自研AI應用重磅升級：實現營銷全旅程服務，視覺AI應用成本大幅下降

百度智能雲打造的智能基礎設施也支撐着百度自己的應用創新。本次大會，百度智能雲面向智能營銷、視覺AI兩大領域，升級了兩大自研AI應用產品。

金融營銷場景需要高精準獲客、“高情商”客服及高效的流失預警，百度智能雲本次升級發佈客悦·ONE，在上述核心場景進行了全面優化，為客户提供全生命週期智能營銷服務，助力企業實現營銷效能全面提升。

以理財撤單場景為例，傳統模式下，用户需經歷複雜的説明閲讀和多層級菜單操作，效率低下。客悦通過AI驅動的智能交互，極大簡化了這一流程。AI不僅能識別並安撫用户焦慮，更能在對話中直接引導解決問題，還能自動提煉關鍵信息並回流數據，持續優化服務體驗。

目前客悦已經服務銀行、證券、保險等不同細分領域的金融企業50餘家，落地金融行業10餘個場景。

為了解決視覺AI模型訓練週期長、門檻高，需要大量人工干預的問題。百度智能雲升級發佈一見5.0，在標準化高、規則清晰的任務中，僅需一句自然語言，即可秒級生成專業級視覺AI應用，一線業務人員也能輕鬆上手，藉助雲邊協同，應用成本大幅降低，加速了視覺智能規模化的落地。

目前，百度智能雲從算力、平台到應用的系統級能力，已經在多個企業場景中穩定運行。中國鋼研與百度智能雲聯合打造全棧智能基礎設施，基於崑崙芯和百舸，搭建了專屬的智算平台；在千帆上做模型精調，使用大、小模型結合的方式獲得最佳效果；結合一見視覺平台，快速完成了表面缺陷檢測、金相分析等核心場景的應用開發。