Alafia AI將超級計算機搬上您的辦公桌 - 彭博社

Austin Carr

2025-04-23

巴塞羅那MWC25科技展上的人工智能(AI)標識。

攝影師：Angel Garcia/彭博社歡迎閲讀《科技深一度》，我們的每日通訊為您帶來彭博社全球記者關於科技行業的報道與分析。今天，Austin Carr將探討能讓您在辦公桌前輕鬆使用強大人工智能工具的算力新進展。

全球科技動態

**Meta反壟斷案：**Instagram聯合創始人Kevin Systrom作證稱，這款照片分享應用本可以獨立發展壯大，無需被這家社交巨頭收購——這可能強化美國政府針對Meta的壟斷指控。

**蘋果人事變動：**隨着這家iPhone製造商急於追趕競爭對手併為數字語音助手注入人工智能功能，Siri新任負責人已對管理團隊進行調整。

**華為的進展：**這家智能手機制造商通過開發智能駕駛軟件，在中國競爭激烈的電動汽車市場贏得了主導地位。

重新估值

幫助兒童學習編程的核桃編程正在考慮是否要通過美國首次公開募股(IPO)籌集1億美元，這是多家考慮在華爾街上市的中國科技公司之一，儘管存在貿易緊張局勢和市場不穩定性。

面向大眾的人工智能

Alafia Aivas是一款價值9.5萬美元的超級計算機，可完美置於您的辦公桌上。這款設備搭載了專為人工智能處理設計的高性能芯片和圖形處理器，主要面向醫生、藥物研發人員和其他醫學研究者。但在本月早些時候波士頓的一場生物技術會議上，我有幸體驗了最新款Aivas原型機的一個非嚴肅用途：完全離線狀態下與深度求索的聊天機器人對話。

脱離網絡使用AI應用程序是種奇妙體驗，彷彿將機器人的大腦像硬盤或U盤般物理接入電腦。多數情況下，與OpenAI的ChatGPT或亞馬遜Alexa交互需要聯網：您的問題通常會被髮送至某個遙遠的數據中心，然後答案几乎瞬間傳回手機或筆記本。然而得益於大語言模型和計算效率的驚人進步，在家中甚至口袋裏擁有AI超級計算機的設想，比想象中更接近現實。

Alafia AI公司創始人卡米洛·布斯卡隆戲稱Aivas像是蘋果與英偉達的結合體。這款入門級工作站（頂配版售價25萬美元）之所以昂貴，是因為它擁有約28,000個GPU核心和2TB內存等高價組件。它專為分析組織樣本圖像尋找癌症跡象等複雜企業級任務設計。這位英偉達和亞馬遜雲服務資深人士表示，就AI專項處理而言，Aivas"堪比約十年前最強大的超級計算機"。

為了向我這樣的外行展示其能力，Buscaron從一個熱門數據庫下載了深度求索的R1推理模型，該數據庫支持在本地計算機上運行開源大語言模型。他表示下載404GB版本後，僅用五分鐘就在Aivas設備上成功運行R1。在我親身體驗時，其響應速度與深度求索的iPhone應用不相上下，既能流暢對話，也能滿足我突發奇想索要甜點食譜的需求。

Buscaron將Alafia的專業設備視為醫院和研究機構的替代方案——這些機構要麼自建龐大的本地服務器，要麼將算力外包給雲端。但Aivas的緊湊設計（想象一個連接在白色高箱體上的流線型屏幕）正映射着消費級硬件的發展趨勢：1960年代佔據整個房間的尖端大型機，其性能如今已被區區iPhone碾壓。所謂的"AI PC"也遵循着相似的發展軌跡——只不過進步速度更為驚人。

實際上，Buscaron下載的R1版本可能根本用不上Aivas的全部性能。深度求索發佈該模型後不久，技術愛好者們就成功在兩台Mac Studio上運行其變體，後來甚至只需單台設備。另有工程師用價值約6000美元的自制硬件實現了部署。與此同時，科技巨頭們正通過強化設備性能與優化大語言模型效率來提升終端計算能力——谷歌首席執行官桑達爾·皮查伊上週五剛演示過其新款模型僅需單個消費級GPU即可運行。

可以肯定的是，這類模型會經過稱為"蒸餾"和"量化"的優化過程，通過犧牲整體精度和能力來縮小規模。它們通常仍能處理流暢對話、生成文本圖像、總結文檔，並回答關於歷史、物理或其他訓練數據的問題——只是達不到在線完整版本的複雜程度。而且由於無法聯網，別指望它們能提供今日新聞或昨日體育比分。我在Aivas上使用的簡化版R1模型能回答甜點食譜問題，主要是通過邏輯和模式匹配，而非真正掌握了互聯網上完整的糕點百科全書知識。

但Buscaron表示，如果專門為聊天機器人優化Alafia設備，憑藉其算力完全可以運行更大規模、未經過度蒸餾或量化的LLM模型。事實上，他預計未來5到10年內，主流消費設備將普遍實現離線運行ChatGPT級別的體驗。而且價格遠不會達到六位數。

引述

“一個不瞭解即時信息或會編造內容的超級助手毫無意義。”

尼克·特利

OpenAI ChatGPT負責人

在谷歌反壟斷審判中作證時解釋為何OpenAI尋求合作將谷歌搜索技術整合入ChatGPT。### 閲讀

今日科技娛樂領域閲讀量最高報道：

特斯拉撤回了先前對2025年銷售增長的預測，理由是貿易政策、整體經濟環境以及“政治情緒變化”——這暗指首席執行官埃隆·馬斯克作為美國總統唐納德·特朗普削減政府開支和解僱聯邦僱員計劃的關鍵人物，其日益下降的公眾支持率。這家電動汽車製造商還報告了第一季度利潤和銷售額，均未達到分析師的預期。

動態

1.35億美元國家科學基金會研究資助金額被削減，這是馬斯克的政府效率部門行動的一部分，包括用於打擊網絡虛假信息和AI深度偽造項目的資金。

AV俱樂部

Northwood聯合創始人兼首席執行官布里吉特·門德勒加入彭博科技，討論這家太空初創公司的最新融資輪次和增長戰略。

彭博活動

加入彭博的馬克·古爾曼（《開機》作者）和希琳·加法裏（Q&AI專欄作者），與彭博執行編輯湯姆·賈爾斯於5月1日在舊金山討論AI如何顛覆科技行業。更多信息請點擊此處。