Cerebras Systems發佈WSE-3:領先AI芯片市場的新里程碑_風聞
科闻社-科闻社官方账号-天助自助者1小时前

隨着人工智能技術的飛速發展,硬件設備的性能和規模成為了影響人工智能應用效果的關鍵因素之一。2024年,Cerebras Systems再次引領行業潮流,推出了其最新一代晶圓級AI加速芯片——WSE-3,這一里程碑式的發佈將AI芯片技術推向了新的高度。
WSE-3採用了台積電的最先進的5納米工藝,其晶體管數量達到了驚人的4萬億個,相較於前一代增加了近50%。這一壯觀的數字不僅展示了台積電工藝的先進性,也凸顯了Cerebras在芯片設計和製造方面的領先地位。同時,WSE-3配備了90萬個AI優化計算核心,再次刷新了AI芯片的規模紀錄。這一龐大的核心數量使得WSE-3在峯值AI性能方面達到了125 PetaFLOPS的水平,相當於每秒執行12.5億億次浮點計算。這樣的性能讓WSE-3成為了頂尖超級計算機的有力競爭者。
除了硬件規格的提升,WSE-3在內存和參數支持方面也取得了顯著的改進。它配備了44GB的片上SRAM,並支持外部存儲器,能夠存儲24萬億個參數的AI模型,而且無需進行分區或者重構。這為訓練更大規模的AI模型提供了強大的支持,並且具備出色的擴展性,能夠支持高達2048個CS-3系統的集羣規模。
在訓練速度和易用性方面,WSE-3也有着顯著的優勢。相較於傳統的GPU,WSE-3能夠在更短的時間內完成訓練任務,且Cerebras聲稱其平台更易於使用。這得益於Cerebras獨特的存儲方式,使得權重和激活的管理更加高效,無需擴展到多個GPU或服務器集羣。此外,WSE-3還支持PyTorch 2.0等最新的AI模型和技術,為開發人員提供了更豐富的工具和資源。
在設計上,WSE-3採用了先進的液冷技術,確保芯片在高性能工作的同時保持穩定的温度。這種設計不僅使得芯片更加可靠,而且也為Cerebras提供了更大的設計空間,使得芯片規模進一步擴大。根據Cerebras的測試數據,WSE-3的液冷技術使得芯片工作温度保持在理想範圍內,確保了其長時間高性能的穩定運行。
此外,Cerebras Systems在2023年成功發佈了Condor Galaxy 2,該集羣在G42上運行,由64個CS-3系統構建,產生了8 exaFLOP的AI計算能力。該集羣是Cerebras Condor Galaxy網絡的第三個安裝。Cerebras與G42的戰略合作旨在提供數十exaFLOPs的人工智能計算能力。Condor Galaxy已成功訓練了一些業界領先的開源模型,包括Jais - 30B、Med42、Crystal-Coder - 7B和BTLM- 3B -8K等模型。
除了高通之外,Cerebras還與谷歌、微軟和英偉達等公司建立了廣泛的合作伙伴關係。這些合作伙伴關係涵蓋了軟件優化、算法研究以及人工智能應用領域。通過與行業領先公司的合作,Cerebras能夠更好地理解客户需求,並將其技術優勢轉化為實際的商業應用。
*免責聲明:以上內容整理自網絡,僅供交流學習之用。如有內容、版權問題,請留言與我們聯繫進行刪除。