英博雲多款智算產品發佈,首提「單位有效算力成本」新指標_風聞
界面有连云-有连云官方账号-昨天 15:18
12 月 13 日,在 AICon 全球人工智能開發與應用大會(AICon 北京 2024)上,英博數科 CTO 李小鵬正式對外發布全新「英博雲」系列智能算力產品與服務,涵蓋智算中心建設運維、GPU容器服務、先進算力實驗室和產業孵化器四大板塊,並在行業首提 “單位有效算力成本” 這一創新指標,推動智算行業向高效益、多樣化的發展範式進階。

(英博雲發佈會現場,圖片來源:英博雲)
行業首提 “單位有效算力成本” 新指標
隨着人工智能技術的廣泛應用,智算行業正從規模化擴展邁向精益化運營,並呈現出三大關鍵發展趨勢。一是全球通用大模型訓練對算力需求持續攀升,集羣規模從千卡級躍升至萬卡乃至十萬卡級,成為推動大模型技術進步的重要基石。二是垂直行業的AI應用迅猛發展,各行業對算力的需求更加分散且動態化。從科研、金融到娛樂、零售,各領域企業迫切需要靈活且彈性的算力支持,以滿足多樣化場景需求。三是在AI商業化加速的背景下,推理場景對算力的需求快速增長,逐漸超過訓練算力需求,成為市場發展的核心驅動力。

(高算力成本:制約大模型技術演進與應用繁榮,圖片來源:英博雲)
時至今日,算力行業依然缺少有效的成本效益評價體系,難以精準衡量實際算力利用水平,導致企業使用有效智能算力的成本過高。對此,英博數科創新性地提出了“單位有效算力成本”這一評價體系及計算公式,為行業提供了一套全新的標準化評估體系。與傳統以裝機算力、設備成本、機電成本和運維成本等固定支出為核心的評價體系不同,“單位有效算力成本”將評價重點從硬件投入轉向實際效益——通過引入“卡可用率”、“卡利用率”和“模型算力利用率(MFU)”三大關鍵指標,這一創新體系能夠精準衡量實際算力利用水平,有效規避了算力資源閒置、設備故障頻發以及整體利用率低下等行業痛點導致的評估誤差,提升算力效率和效益評價的準確性。

(“單位有效算力成本”計算公式,圖片來源:英博雲)
李少鵬指出,“單位有效算力成本”不僅能夠幫助企業優化成本效益,還為算力資源的高效配置提供了科學依據。
多款產品發佈,智算產品新範式呈現
智算中心建設運維解決方案
針對通用大模型集中式、大規模訓練的需求,英博雲提供了高效益的智算中心建設運維解決方案。英博雲具備多個智算中心交付經驗,能夠提供一整套標準化、模塊化的建設方案。英博雲自研的高性能並行存儲解決方案、專業的硬件測評與檢測體系以及細粒度的集羣監控和自動化故障恢復體系,能夠在提供高硬件穩定性集羣的同時,提升集羣的可用性。依託成熟的算力調度平台,英博雲還支持通過容器化形式為長尾客户提供高效、彈性的算力服務,有效滿足不同規模和需求的用户。針對通用大模型集中式、大規模訓練的需求,英博雲提供了高效益的智算中心建設運維解決方案。英博雲具備多個智算中心交付經驗,能夠提供一整套標準化、模塊化的建設方案。

(英博雲智算中心建設運維解決方案,圖片來源:英博雲)
英博數科智算中心建設運維解決方案目前已在京能項目落地。英博數科在智算中心建設運維方面擁有的獨特優勢,成為推動項目持續進展的核心力量。供應鏈方面整合資源與眾多供應商合作保穩定,集羣運維組網方面從選型到建設交付皆有高標準規範與專業保障,推動項目進展,未來有望更多智算中心項目落地助力產業發展。
GPU 容器服務
針對垂類大模型分散、臨時、動態的彈性訓練需求,英博雲推出了賦能中小客户的GPU 容器服務。通過Vcluster形式,英博雲提供GPU和CPU資源混合的彈性K8S集羣服務,滿足大模型並行訓練的工程需求。與此同時,英博雲支持SSH和Kubectl管理操作,為用户帶來靈活便捷的體驗。

(英博雲GPU容器服務架構圖,圖片來源:英博雲)
秒級別的容器啓停和計費粒度,企業級的並行存儲服務,使其能夠提升GPU資源使用效率、降低使用成本,並能支持容器數據持久化和模型數據的高速共享。加之英博雲提供內網預定義場景鏡像倉庫、常用模型庫、常用數據集等數據源服務,能夠有效提高數據準備和環境配置效率。目前,英博雲GPU容器服務已經開始服務清華大學、中國人民大學等高校科研機構及中小微企業。
先進算力實驗室
先進算力實驗室致力於成為業界頂尖的算力性能評測中心,實驗室圍繞硬件評測、軟件評測以及行業服務展開工作,為企業算力基礎設施的升級與優化提供前瞻先進、切實可行的建議,助力提升算力效率和業務表現。

(英博雲先進算力實驗室,圖片來源:英博雲)
在硬件評測方面,對GPU、交換機、光模塊、並行存儲等進行嚴格測試,確保設備性能符合高標準;在軟件評測方面,涵蓋基座模型、訓練框架、微調框架、推理框架等,為智能算力的優化提供全方位支持。通過提供行業標準制定和定製化服務,先進算力實驗室助力企業在智能算力領域不斷突破創新。實驗室已經開展工業界主流 GPU 芯片的測試。
賦能AI產業鏈,共創智算未來
在智算領域持續創新發展的進程中,英博雲積極探索多元化發展路徑,產業孵化器進一步夯實了英博雲在智算領域的生態佈局。英博雲產業孵化器集成算力、資金、技術、市場與生態優勢,全方位賦能 AI 創業。提供強大算力支持,引入資金助力,資深技術團隊指導,精準市場策略幫扶,構建生態促合作。此外,產業孵化器通過聯合AI產業鏈上下游,探索算力組合投資新模式,挖掘AI產業潛在方向,賦能企業實現技術研發與業務擴展的雙向突破,為 AI 創業與行業發展注入新活力與動力。

(英博雲發佈會現場,圖片來源:英博雲)
英博雲系列產品與服務的發佈,為智能算力行業樹立了全新標杆。通過創新的“單位有效算力成本” 指標,以及多樣化的智算產品與服務,英博數科將助力企業在大模型研發與應用中實現更高效的資源配置和成本控制。此外,在此次大會期間,英博雲全新產品精彩展示。產品創新的特性與可靠的性能,吸引了眾多與會者駐足瞭解,贏得了他們的廣泛關注。

(英博雲發佈會現場,圖片來源:英博雲)
未來,英博數科將繼續以“高效益、多樣化” 為核心,深耕智算領域,巧妙施行低成本策略,精細化、精準化調配算力資源,攜手更多企業共同探索 AI 時代的無限可能,為 AI 技術的研發與商業化應用注入強大動力,推動智能算力行業不斷向前發展。
聲明:以上內容與數據,與界面有連雲頻道立場無關,不構成投資建議。據此操作,風險自擔。