從智能手機到智能體,端側AI的故事才剛剛開始
證券時報記者 劉燦邦
近日,高通發佈了年度旗艦芯片,公司相關負責人在演講中,頻頻提到一個關鍵詞——端側AI(人工智能)。
端側AI是將AI模型部署在終端設備上,讓終端設備具備本地的智能處理能力,無需依賴雲端服務器就能完成一些AI任務。與之相對應的是雲側AI,雲側AI是指將人工智能的模型訓練和推理任務放在雲端服務器進行處理。
從名稱上就可以感受到端側與雲側兩種AI處理模式的差異。在端側處理,省去了信息在終端與雲端的交互時間,處理速度更快,同時,個人數據也只保留在本地,不存在雲端泄漏的風險,更有利於數據安全。不過,端側處理的不足也是顯而易見的,特別是在計算資源與存儲能力方面,端側要明顯遜色,相比雲端部署的大模型,端側往往只能部署單一應用的小模型。
那麼,為什麼端側AI成為芯片大廠關注的焦點?
按照高通公司總裁兼CEO安蒙的説法,UI(用户界面)現在已經是以人為核心,能適應用户的需求,並在端側進行處理。同時,用户體驗的核心已轉向智能體AI,這一變革正在重塑社會對所有智能終端的認知:無論是智能手錶、無線耳機還是智能眼鏡,它們不再只是手機功能的延伸,而是開始直接與智能體交互。他判斷,智能手機不會消失,但是將迎來以智能體AI為核心的時代,包括智能手機在內的不同品類的智能終端將共同定義全新的移動體驗。
記者從業內瞭解到,一些端側AI應用已經嶄露頭角。例如,當你想要利用AI為你製作一份旅遊計劃表時,傳統的AI會為你提供一份大眾化攻略,但通過端側AI,它可以自動識別你的日曆表中哪些日期、哪些時段已經安排了其他行程,在製作攻略時會主動避開這些時段,從而提供更合理的出行建議。
無獨有偶,聯發科剛剛在發佈旗艦芯片時對端側AI功能着墨不少。該公司聲稱,其最新發布的旗艦芯片率先支持Bitnet 1.58 bit推理框架,端側AI能力獲得了史詩級的提升,大幅減少AI計算、圖像識別及自然語言處理能力運算對於雲的需求,讓以往需要依賴雲端才能做到的4K超高分辨率文生圖、128K長文本處理、AI寫真等功能得以在端側實現。
記者注意到,為了支撐端側AI,高通還提到了計算架構的變化。安蒙稱,需要構建一個全新的計算架構體系,包括操作系統、軟件、芯片都需要重新設計以支持這些新體驗。他認為,在由智能體主導的未來,智能體擁有豐富的情境理解能力,能記住用户的習慣,還能理解用户看到的內容,而高通正面向這樣的需求打造全新的處理器。
值得一提的是,除了消費級的終端,未來工業級的終端也將具備AI能力。在業內人士看來,各行各業中採用的大量傳感器會產生海量數據,這些數據往往尚未被充分利用,攝像頭就是典型的例子,它們遍佈各個角落,是否可以讓每一個攝像頭都具備AI能力,使其能夠基於輸入的數據流進行分析並做出決策?
因此,端側AI的故事才剛剛開始,不僅僅是如今的智能手機、智能手錶以及智能汽車,甚至未來每一台工業級邊緣終端、各行各業的傳感器——無論是製造工廠、配送中心,還是零售場景,這些領域中的傳感器都將具備AI能力。
當然,強調端側AI的能力並不意味着雲側AI不重要。未來,最好的局面是,無論在終端還是雲端進行AI處理,二者都將無縫協同,實現邊緣側“雲+端”的協同,這將使推理計算等任務得到更高效的分配。