從“可用”到“好用”，百度智能雲如何做大模型的“超級工廠”？_風聞

如果説，過去兩三年大模型處於造錘子階段，那麼今年，更多的則是考驗釘釘子的能力，面對各類業務場景大模型是否能夠有的放矢、一擊必中，為千行百業深度賦能。

當前市場上，已經有200多把這樣的錘子在瘋狂找釘子。但從實際應用來看，大模型在文生文、文生圖以及扮演初級的工作助理等方面還算合格，但要是真正落地到一線場景，解決業務痛點，提升生產和服務效率，還需要下更多功夫。

從最近幾個月的風向看，也不乏有人提出質疑，如此之多的大模型，其實用性到底有幾分？這裏面是不是也存在着不小的“泡沫”？無須諱言，“泡沫”一定是有，為了大模型而大模型的企業甚至不在少數。

但不可否認是，業內也有以百度智能云為代表的實幹者在持續探索大模型的實際價值，不斷推出可應用、可落地、可產生效益的大模型產品和解決方案，通過AI原生應用推動企業以及行業的創造力和生產力全面提升。

9月25日，2024百度雲智大會正式舉行。本屆會議不僅圍繞基礎設施、大模型、開發工具鏈、AI原生應用等方面進行了多項全新發布，還為業界帶來了大模型產業落地的最佳實踐。

“雲智一體”戰略牽引，為大模型鋪路築基

當各行各業擁抱大模型之後，都會有一個共識，MaaS將是一種新的應用開發範式。在雲計算時代，是基於PaaS做SaaS，再提供給用户；智能化時代，則迴歸到MaaS底座上，再結合千行百業的場景，打造智能化應用，提供用户所需要的業務價值。

在“百模大戰”的行業大環境下，百度智能雲事業羣總裁沈抖曾表示，過去一年是大模型從技術變革走向產業變革的關鍵一年，而大模型和雲計算緊密結合，正在成為新型的基礎設施。從1834年第一台現代發電機誕生，到1882年美國建成全球第一座電廠，再到電力成為全球的能源基礎設施，每一次升級都能帶來生產力的巨大躍遷。而且一次比一次速度更快，影響更大。

面對AI浪潮席捲全球，百度智能雲希望更多的創業者、企業用户能夠繁榮大模型生態。去年10月，百度智能雲將戰略升級為“AI原生時代的雲智一體”，圍繞“雲智一體，深入產業，生態繁榮，AI普惠”理念，聚焦更高效的算力基礎設施、更好用的一站式大模型平台和AI原生應用開發平台，以及更豐富的AI原生應用樣板間和行業解決方案，去滿足客户在大模型時代的不同業務需求。

在“雲智一體”戰略框架下，百度智能雲自下而上推出一整套AI原生技術棧，包括異構算力基礎設施“百度·百舸AI異構計算平台”、一站式大模型平台“千帆ModelBuilder”和AI原生應用開發平台“千帆AppBuilder”、AI生成式產品“文心大模型”，以及數字人、智能客服、超級助理、生成式BI等豐富的AI原生應用和行業解決方案，滿足各行各業在AI原生時代的不同業務需求，全力賦能千行百業，加速推進產業智能化。

百度智能雲事業羣總裁 沈抖

在IDC近日發佈的《中國大模型平台市場份額，2023：大模型元年——初局》報告中，百度智能雲以19.9%的市場份額居中國大模型平台市場第一。從應用角度看，百度智能雲能夠連續多年保持領先優勢主要得益於三方面的原因：一是佈局全棧AI技術，形成端到端的AI優化機制；二是在生成式AI、多模態、大模型應用場景、OCR、對話式AI等AI軟件方面具備明顯優勢；三是擁有最大的AI及大模型產業落地規模，廣泛覆蓋金融、製造、能源、互聯網等行業。

作為AI時代的新型生產力，數據、算力和算法成為關鍵資源。在大規模前端產品落地後，算力建設能否及時跟上，成為AI大模型向各領域進一步滲透的關鍵因素。

面對大模型高昂的計算成本和算力資源供應短缺的問題，如何在大模型訓練推理上高效使用算力、擴大算力來源是業務的核心考驗。

沈抖指出，過去一年的最深感受就是大模型訓練的需求越來越大，需要的集羣規模也越來越大。與此同時，行業對推理的成本下降的預期也越來越高。這些都對GPU管理的穩定性和有效性提出了更高的要求。此次，百度智能雲對百舸做了大幅升級。

目前，百度百舸AI異構算力平台能夠對不同地點、規模、集羣的智能算力進行統一管理，並基於芯片性能優化、自動芯片選型、潮汐混部等技術，大幅提升智能算力效能，萬卡集羣上的模型有效訓練時長佔比超過99.5%。相同的大模型任務，百舸能夠幫助客户將資源成本降低一半。

為了解決算力不足問題，“一雲多芯”是中國企業的必然選擇。百舸已經攻克了同一智算集羣中混合使用不同廠商芯片的業界難題，幫助企業擺脱單一芯片依賴，打造更有性價比、更安全、更具彈性的供應鏈體系。百舸能夠在兼容崑崙芯、昇騰、海光DCU、英偉達、英特爾等國內外主流AI芯片的同時，最大限度屏蔽硬件之間的差異，在多芯混合訓練任務中百卡規模性能損失不超過3%，萬卡規模性能損失不超過5%，均為業界最高水平。

基於強有力的算力平台，百度智能雲搭建起一站式企業級大模型平台——千帆。該平台不僅提供包括文心大模型4.0、4.0 Turbo和3.5三款旗艦模型、主流開源大模型在內的近80款大模型服務，還提供覆蓋開發大模型、AI原生應用全生命週期的工具鏈。同時，為進一步實現AI技術普惠，平台還預置了ERNIE Speed、ERNIE Lite、ERNIE Tiny三款性價比較高的主力模型，幫助開發者和企業降低大模型使用門檻和試錯成本，加速業務創新。

為了進一步降低行業大模型的開發門檻，百度智能雲推出了千帆·行業增強版，將通用大模型的理解、生成、邏輯、記憶能力，與行業模型的專業能力相結合，搭配體系化的工具和組件，支持從資源管理、大模型服務到應用開發的全過程，把企業定製化的部分從“最後一公里”縮短至“最後一百米”，讓行業的應用開發事半功倍。

目前，百度智能雲的各類大模型產品已廣泛覆蓋交通、政務、教育、金融、製造、能源、互聯網等行業，並深入到“研、產、供、銷、服”的每個環節中，取得了顯著成效。

截至2024年Q2，千帆大模型平台日調用量超過7億次，累計開發出了超過70萬個AI原生應用。

小切口大縱深，從實踐中來到實踐中去

大模型商業化應用的核心在於能否真正解決用户問題。

在經歷了“百模大戰”的錘鍊之後，企業們的技術能力正變得越發強勁，大模型開始走向商業化落地。今年以來，中國10億參數規模以上的大模型數量已超100個，行業大模型深度賦能電子信息、醫療、交通等領域，形成上百種應用模式，賦能千行百業。

隨着技術迭代曲線放緩、基礎大模型賽道的競爭格局企穩，生成式AI市場的性質正在發生變化，更多的創新和價值創造正在嚮應用層匯聚。沈抖曾表示，企業有多少業務場景，未來就有多少AI原生應用。這也印證了百度智能雲正在通過對產業痛點的深入洞察和理解，將大模型與實體經濟及行業應用全域融合，在服務產業的過程中，也進一步完善和提升了大模型的行業能力，形成互為反哺、相互促進的正向循環。

沿着這一邏輯，大模型一個最為前景的應用場景，就是垂直領域專業服務。越是複雜的問題，越是專業的領域，越能孕育出更具價值的商業化應用。最典型者如金融、政務、交通等行業。

在教育領域，教育龍頭企業好未來運用百度百舸·AI異構計算平台，為其自研九章大模型（MathGPT）提供關鍵支撐。九章大模型在成功內測推出後，已經成功在智能硬件學習機xPad實現了業務上線。九章大模型的“數學隨時問”功能可以實現對80%的數學題即問即答，暫時不能回答的最快可在一小時內上傳真人講解視頻、20分鐘內生成AI視頻解析。此外，好未來AI輔導工具xPad2 Pro系列還上線了自研的新功能“AI對話學”，該功能基於九章大模型的解題和講題能力，通過與學生進行啓發式的對話交流，打開題目的黑盒，快速分析出學生的薄弱點，從而使教育更具針對性。

面對快速增長的電動汽車智能座艙需求，蔚來汽車基於千帆平台，在文心大模型的基礎上通過提示詞工程打造出了業內首家純端側部署的多模態感知大模型——NOMI GPT，助力客户座艙場景體驗創新。

NOMI能夠自然地與用户互動，成為一個更懂用户、更聰明的座艙AI小助手。通過文心大模型，NOMI能夠對用户的用車問題解答，還能實時監測車況，支持用户口語化模糊查找。比如用户説出目的地城市，NOMI就能幫助用户推薦景點遊玩攻略、景點推介、食宿推薦等；用户給出關鍵詞，NOMI可以給出理解並調整氛圍燈色調。此外，NOMI還能自定義角色陪聊，具備兒童百科問答、學習解惑、語言遊戲等多種功能。目前，NOMI已經陪伴了近20萬車主家庭，已經成為有温度的情感陪伴和移動的生活空間。

在港航領域，百度智能雲與山東日照港聯合探索大模型港口應用場景，推動大模型試點應用，賦能港航領域產業鏈上下游企業和生態企業智能化轉型升級。2023年，日照港口貨物吞吐量達到5.93億噸，躍居全國第六、世界第七；全市臨港產業產值佔規上工業總產值的比重達85%以上。和一般碼頭有點不一樣的是，這裏專做件雜貨。

件雜貨，是對論件計數、形狀各異、大小不一的貨物的統稱。這類貨物的包裝形式、類別各不相同，無法使用集裝箱運輸，還存在不同的存放需求和上船時間要求，裝卸工具和方案各異，裝卸工藝流程複雜、人機交互頻繁。

相比集裝箱碼頭，件雜貨碼頭實現自動化和智能化的難度更高。由於件雜貨的獨特屬性，碼頭需要可靠、準確的圖像分析和智能算法，對貨物進行有效識別、定位並進行智能配載。

百度智能雲運用人工智能技術，打造智能化系統，為件雜貨碼頭自動化、智能化升級探索可行路徑。通過百度智能雲OCR視覺識別技術，在貨物即將進港時，工作人員就可識別貨單信息，將具象化的貨物實體轉化為算法支持的數學邏輯，從而避免人工錄入造成的失誤，提升數據錄入的準確性，降低貨運代理數據錄入工作量。

智能化系統可對整個港口的堆場進行釐米級的地理信息採集，實現人員、車輛、設備、貨物、場地、船舶等要素精準定位，形成一張“綜合地圖”。數字化堆場系統會從TOS系統(Terminal Operating System，碼頭智能生產管理控制系統)中獲取各生產要素的實時信息，並在高精地圖中進行實時展示，助力業務人員遠程作業。

在實現多維生產要素和生產流程的數學建模的同時，智能化系統基於調度數據優化大模型的調度算法，提供包括智能堆場計劃、智能泊位計劃和智能配載計劃等調度計劃策略，再通過實時的人員排班調度、港機作業調度和水平運輸車輛調度等，實現件雜貨碼頭自動化、智能化運轉。此外，調度優化大模型還可以提高碼頭作業全流程的人機協同效率，將人工智能算法下沉到各類機械的調度和控制中，大大降低碼頭的整體運轉控制難度，提高控制精度，實現港口智能化再升級。

依託百度智能雲打造的智能化系統，山東日照港件雜貨碼頭整體運轉效率提升10%，設備利用率提升20%，堆場週轉率提升20%，堆場利用率提升15%，並實現大模型在港航領域的成功應用。

從“可用”到“好用”，從“潮玩”到“普適”，大模型在千行百業的場景落地是結合場景定義、訓練、調優、運維等多個步驟的螺旋式上升過程。作為AI時代的底座建設者，百度智能雲正結合軟硬件能力，賦能開發者和生態夥伴，進一步釋放AI的創新潛能。

【關於科技雲報到】

企業級IT領域Top10新媒體。聚焦雲計算、人工智能、大模型、網絡安全、大數據、區塊鏈等企業級科技領域。原創文章和視頻獲工信部權威認可，是世界人工智能大會、數博會、國家網安周、可信雲大會與全球雲計算等大型活動會議的官方指定傳播媒體之一。