騰訊Angel機器學習 平台獲世界互聯網大會領先科技獎
11月19日,2024年世界互聯網大會領先科技獎在烏鎮發佈,騰訊Angel機器學習 平台榮獲本年度領先科技獎。
據介紹,騰訊Angel機器學習 平台,突破了萬億級模型分佈式訓練和推理以及大規模應用部署等難題,率先實現大模型技術從底層硬件到關鍵軟件技術的自主研發,在業務場景廣泛應用,顯著推動實體產業和數字經濟發展,提升社會效率。
世界互聯網大會領先科技獎由世界互聯網大會主辦,旨在獎勵全球年度最具領先性的互聯網科技成果,倡導互聯網技術國際交流合作。本年度共有20個具有國際代表性的項目獲獎,涵蓋類腦計算、具身智能、6G、大數據、高性能芯片、AI機器學習 平台等前沿領域。
騰訊公司副總裁蔣傑現場表示,在大模型時代,模型參數超過萬億,訓練數據超過十萬億,如此龐大的規模,給模型訓練和推理帶來巨大挑戰,騰訊全鏈路自研的Angel機器學習 平台有效應對這些挑戰,實現多個方面的性能效率提升。未來,騰訊也將繼續投入底層技術自主研發,並通過開源共享,推動技術創新升級,讓智能技術走入千行百業。
據悉,騰訊Angel機器學習 平台針對萬億規模大模型分佈式訓練和推理、應用部署難的挑戰,在網絡互聯、框架效率、平台規模三方面實現了突破。
其中,在通信方面,從網卡到交換機,再到路由協議,騰訊自研的RDMA網絡實現了集羣高速互聯,單節點帶寬達到3.2T,相比於同類領先產品,性能提升30%,成本降低70%。在規模方面,實現了單任務萬卡的線性擴展,GPU集羣加速比從50%提升到99%。
目前,基於騰訊Angel機器學習 平台,騰訊混元大模型已經構建了從0.5B到70B不同尺寸的通用模型和領域模型,涵蓋了語言模型、多模態理解模型和多模態生成模型等。這些模型已被應用在超過700個騰訊業務場景,展現了其強大的應用潛力和價值。對外,Angel平台通過騰訊雲輸出,廣泛應用在大模型、廣告、推薦、社交、金融等領域,服務30萬行業客户,助力實體行業進行數智化升級。