印度初創企業Ziroh Labs發佈無需高端芯片即可運行AI的系統——彭博社

註冊*《印度版》時事通訊**，由梅納卡·多希為您帶來——一份關於新興經濟強國的內幕指南，以及推動其崛起的億萬富翁和企業，每週送達。*

在印度運營的人工智能初創公司Ziroh Labs與該國頂尖技術學院的研究人員合作，設計了一套經濟實惠的系統，據稱無需依賴英偉達公司等提供的高端計算芯片，即可運行大型AI模型。

該公司的框架名為Kompact AI，是與印度理工學院馬德拉斯分校聯合開發的。Ziroh Labs表示，該平台能讓AI在日常計算設備的中央處理器（CPU）上運行，而非依賴當前人工智能熱潮中昂貴且搶手的圖形處理器（GPU）。

隨着中國深度求索公司以遠低於美國同行的成本開發出具有競爭力的AI模型並取得現象級成功後，越來越多的AI開發者開始宣揚效率提升，聲稱能在減少芯片使用量的情況下實現相同效果。Ziroh Labs的方法主要聚焦於推理過程，即AI系統訓練完成後的實際運行階段。

Ziroh Labs表示能優化主流AI模型在個人電腦上的運行。在本週的演示活動中，研究團隊展示了其產品在搭載市售英特爾至強處理器的筆記本電腦上運行，併成功調用Meta Platforms Inc.的Llama 2和阿里巴巴集團的通義千問2.5等模型。

其他科技公司也已採用CPU來處理部分推理工作負載。Ziroh Labs表示，其方法能帶來高質量成果。這家初創公司稱，其技術已通過美國芯片製造商英特爾公司和超威半導體公司的測試驗證。

“未來幾年這將對市場產生非常深遠的影響，“Sun Microsystems前首席戰略官、該初創公司技術顧問William Raduchel在線上活動中表示。

與其他國家一樣，印度開發者一直難以負擔並獲取頂級英偉達芯片來構建和支持AI產品。GPU短缺可能阻礙當地AI研究和部署的速度與規模。

“AI鴻溝的存在，是因為只有那些擁有高端昂貴GPU資源的人才能訪問、開發和部署強大AI，“印度馬德拉斯理工學院主任V. Kamakoti表示，“我們正在證明，殺雞焉用宰牛刀。”