《彭博社》:在裁員和削減成本的一年中,Meta投資於人工智能
Alex Barinka
在Meta平台公司削減成本和裁員的一年中,有一個領域的支出創下了紀錄:更新這家社交媒體巨頭的基礎設施,以在人工智能競賽中保持競爭力。
週四,Facebook所有者發佈了一系列新技術,包括一款內部開發的新芯片,可幫助更快地訓練人工智能,以及一款幫助編碼人員獲取產品構建建議的工具。該公司還正在重新設計其數據中心,以便更容易部署人工智能技術。
“這項工作反映了長期努力,將使我們在所有工作中更好地利用這項技術的進展,”首席執行官馬克·扎克伯格在一封電子郵件聲明中説。
這款定製加速器芯片將幫助加快推動Facebook和Instagram上用户看到內容的推薦算法。一個新的數據中心設計專門用於最適合人工智能的硬件。Meta表示,它還完成了建造人工智能超級計算機的第二階段,用於訓練大型語言模型,這些技術類似於ChatGPT所使用的技術。
Meta的下一代數據中心。來源:Meta平台公司。Meta去年的資本支出達到創紀錄的314億美元,是2017年的四倍多。在扎克伯格稱之為Meta“效率之年”的今年,分析師們預計2022年的支出水平將重複,其中許多資金將用於改善和擴展人工智能基礎設施。
“效率要求存在一些緊張”,“但投資於人工智能和投資於效率並不直接競爭,”Meta的人工智能研究總監Kim Hazelwood説。
一些人工智能更新顯然是Meta內部效率的推動因素,該公司最近幾個月裁減了數千名員工。
CodeCompose是一款面向開發人員的新型生成式人工智能工具,可以自動完成或建議代碼更改。該公司表示,迄今已有5,200名編碼人員在內部使用該工具,接受了22%的代碼完成建議。
該公司越來越多地尋求人工智能來解決其最大的業務問題。對於那些因為蘋果公司的隱私變更而感到沮喪,導致他們的數字廣告難以定位目標受眾的廣告客户,Meta計劃利用人工智能更好地猜測用户的興趣。為了與TikTok競爭,Facebook和Instagram開始展示用户未關注的人的內容 —— 這需要算法猜測他們可能感興趣的內容。
投資者將尋求直接證據來證明這些改進,以證明這種大規模支出的正當性,CFRA Research的分析師Angelo Zino在一次採訪中表示。
“顯然,一些事情需要一段時間才能真正展現出來,”Zino談到了Meta整體資本支出的增加。“他們將受到很多審查,確保他們能夠開始看到一些收入方面的加速。”
當AI模型被查詢時,它們會輸出稱為推理的答案,這需要一種特定類型的處理。Meta決定開發新的芯片,稱為Meta培訓和推理加速器(MTIA),以幫助在內部進行特定工作,補充其來自Nvidia的大量圖形處理單元。
Meta希望其MTIA芯片將幫助公司快速生成更準確和有趣的預測,預測用户看到的原始內容和廣告類型,希望能夠導致人們在應用程序上花費更多時間並點擊更多廣告。
Meta培訓和推理加速器芯片來源:Meta平台公司該公司還推出了其首款內部構建的特定應用集成電路 - 或ASIC - 旨在處理視頻和直播流。目前,Facebook和Instagram上的用户每天分享超過20億個短視頻,這款新處理器可以幫助這些視頻在任何設備上更快地顯示,使用更少的數據。
“我們已經能夠為我們的推薦模型優化、平衡和定位我們的第一批芯片,”硬件工程副總裁Alexis Bjorlin説道。“我們還可以清楚地看到,對於生成式AI工作負載或任何下游元素的不同需求是什麼。”
雖然Meta社交媒體應用程序上使用的推薦引擎是其當前版本的AI技術,但未來生成式AI工作的關鍵是公司的AI超級計算機,稱為研究超級集羣,公司將使用它來訓練大量的人工智能程序,稱為模型。
週四,該公司表示已完成了其建設的第二階段,該階段培訓了其名為LLaMA的大型語言模型,這將是其建設元宇宙的努力的關鍵部分 —— 一個虛擬現實平台,為此公司從Facebook更名。
Meta長期致力於向外部社區提供其一些複雜技術。雖然其堆棧中的許多硬件並非如此,但它所支持的一些工作將是開源的。LLaMA與研究人員共享,還有一個在其超級計算機上訓練的AI模型,可以解決十個國際數學奧林匹克問題。CodeCompose是基於Meta的AI研究團隊分享的公開信息構建的。其新的推理芯片將幫助公司繼續支持PyTorch,這是Meta創建的開源AI框架,然後轉移到Linux基金會以賦予其更多獨立性。
儘管Meta多年來一直在研發AI工具,但扎克伯格選擇圍繞一個更加模糊的虛擬現實願景來構想公司的未來。這種轉變受到了投資者的嚴格審查,因此對AI基礎設施的深度投資可能有助於重建扎克伯格整體戰略的信心,投資研究機構Third Bridge的分析師斯科特·凱斯勒(Scott Kessler)表示。
“他們不想成為行業範圍內將AI融入業務的競爭中的一個平庸者”,凱斯勒説。“現在比六到九個月前更多的人可能會相信這種敍事。”