馬克馬克·扎克伯格在AI領域起步早如今Meta正努力追趕-《華爾街日報》"]
Karen Hao, Salvador Rodriguez and Deepa Seetharaman
Meta 正在做一件馬克·扎克伯格不喜歡的事:追趕潮流。
十年前,這位公司創始人兼首席執行官看到了人工智能的前景,並投入大量資金推動其發展。他聘請了該領域的早期遠見者之一Yann LeCun來領導這項工作。然而,就在OpenAI的ChatGPT闖入消費市場幾個月後,Meta在這項技術上已經落後了。
在多年來優先考慮學術發現並免費分享,同時難以實現其商業潛力後,Meta現在正急於重新調整資源,以開發可用的AI產品和功能,包括自己的聊天機器人。
這是一個艱鉅的任務,因為Meta的許多頂級AI員工已經離職,同時公司正在進行扎克伯格所稱的“效率年”裁員。根據《華爾街日報》的分析,過去一年中,約三分之一參與發表與大型語言模型(為ChatGPT等AI系統提供動力的複雜系統)相關研究的Meta員工已經離職。
扎克伯格本人和其他高管已經更多地掌控了公司的AI戰略。他們成立了一個新的生成式AI小組,直接向Meta任職時間最長、最受信任的高管之一——首席產品官克里斯·考克斯彙報。扎克伯格表示,該小組正在訓練生成式AI模型,這些模型可以生成文本、圖像或音頻等內容,旨在融入“我們每一個產品”。他大力宣傳Meta的旗艦AI語言模型LLaMA,該模型的代碼泄露後,催生了一些本土工具,這些工具有朝一日可能會與谷歌和OpenAI試圖銷售的產品競爭。
如果Meta成功將其人工智能項目商業化,這可能會提升用户參與度,創造更優質的元宇宙體驗,並增強公司對年輕用户的吸引力——目前這部分用户正變得越來越難以觸達。若Meta未能快速利用這項技術,隨着包括一批快速崛起的創新型AI初創公司在內的競爭對手領先,它將面臨失去市場影響力的風險。
Meta人工智能研究副總裁喬爾·皮諾在一份聲明中表示,公司在AI領域並未落後,並強調其專注於研究和體系建設的戰略將為Meta的成功奠定基礎。皮諾稱:“Meta的AI研究部門是全球頂尖的人工智能研究者和開放科學的聚集地之一,僅過去一年其研究成果就顯著增長。我們的研究突破為在應用家族中推出新一代生成式AI體驗奠定了堅實基礎。我們為Meta過去和現在的AI研究者們助力塑造尖端AI未來所做的貢獻感到自豪。”
插圖:傅凱瑟琳扎克伯格週五發佈了一款名為Voicebox的AI模型,該模型能以多種方式朗讀文本提示,或藉助文本提示修正錄音(如消除狗吠等背景噪音)。Meta未透露該研究項目何時向公眾開放。
本文基於對十幾位Meta現任及前任員工的訪談,以及對領英資料、社交媒體動態和初創企業新聞公告的梳理。
扎克伯格和其他高管將人工智能稱為Meta業務的第三支柱,認為它與全球互聯及虛擬增強現實技術同等重要,對公司長期發展和保持競爭力至關重要。在AI領域的落後可能讓Meta顯得保守遲鈍,而非那個曾提出"快速行動、打破常規"口號、引領硅谷創新節奏的敏捷進取者。
今年五月,白宮未邀請Meta參加人工智能領袖峯會,該會議號稱匯聚了"處於AI創新前沿的企業"。
Meta曾在落後時多次急轉彎,例如將Facebook廣告業務從桌面端轉向移動優先,或是2016年在Instagram推出Stories功能,以吸引Snapchat用户——後者早在十年前就推出了類似功能。
Meta還面臨其他戰略、政治和財務挑戰。其AI部門長期偏重基礎研究,抑制了生成式AI(如能產出類人文本和媒體的ChatGPT系統)的發展。高管們在設計運行此類AI程序的硬件時決策失誤,目前正試圖糾正。多年來因用户數據處理和人權問題遭受審查,使得部分高管在向消費者推出新AI產品時猶豫不決。
Meta於2013年開始投資人工智能。扎克伯格和時任首席技術官邁克·施羅普弗親自物色了一位人工智能領域的頂尖人才來領導一個新的研究部門以推動技術進步。他們在紐約大學教授揚·勒昆身上找到了理想人選,勒昆在該領域的突破性研究享有盛譽。
揚·勒昆執掌Meta人工智能研究部門十年間,始終保持着以發表和分享發現為核心的學術化AI突破研究方式。圖片來源:內森·萊恩/彭博新聞社紮根學術界與基礎研究的勒昆,成功塑造了反映其核心理唸的文化:優先聘用科學家而非工程師,重視學術產出(如研究論文)而非面向終端用户的產品開發。知情人士表示,這一策略使Meta基礎AI實驗室多年來對頂尖人才極具吸引力,但也制約了公司技術成果的商業化能力。
該模式還催生了分散化、自下而上的研究方向與資源分配機制。知情人士透露,研究人員自主制定計劃,各自朝不同方向開展獨立項目,而非遵循統一的公司戰略。據部分人士反映,Meta將硬件資源分散配置給各個項目:某些獲得超額配給芯片的研究人員,會將其浪費在非必要任務上以避免資源被回收。
與此同時,Meta在為其數據中心配備AI開發所需的最強大計算機芯片方面行動遲緩。即便公司採購了更多此類芯片,也缺乏有效系統將其分配給工程師和研究人員。知情人士透露,有時數千件昂貴硬件設備閒置未用。
Meta正在進行數據中心全面改造,這可能是造成資源積壓的原因之一。據公司博客稱,截至五月,Meta最新AI超級計算機已配備16,000塊此類芯片。
2020年當大語言模型開始展現驚人能力時,Meta人工智能研究部門內部出現分歧:一方力主公司全力投入這一新方向,另一方(包括LeCun)則認為此類模型只是缺乏科學價值的潮流。知情人士表示,LeCun在內外場合對大語言模型的強烈反對(他認為這些模型無法使AI接近人類智能水平),使得持不同意見的研究人員難以獲得此類項目所需的支持和資源。
部分Meta研究人員仍以較少資源持續推進,2022年用約1,000塊芯片開發出OPT(開放預訓練轉換器)大語言模型,2023年用約2,000塊芯片打造出旗艦模型LLaMA。相比之下,行業標準需要5,000至10,000塊芯片。Meta最初僅允許有限的外部研究人員接觸LLaMA,後該模型在網上泄露,意外催生創新浪潮——高管們將此作為Meta共享AI技術目標的典型案例。
過去一年間,Meta已有眾多參與這些及其他關鍵生成式AI項目的研究人員離職,許多人提到職業倦怠或對公司能否跟上競爭對手缺乏信心。根據領英資料和知情人士透露,LLaMA研究論文列出的14位作者中已有6人離職或宣佈將離職,OPT論文的19位合著者中也有8人離開。
自去年11月OpenAI發佈ChatGPT後,人才流失速度進一步加快。部分人員被AI初創企業熱潮吸引,這股風潮已引發硅谷公司(包括谷歌在內)的全面人事變動。領英向《華爾街日報》透露,截至3月,平台上提及GPT的職位發佈數量同比增長了79%。
Meta發言人表示公司仍在持續招聘並引入了新的AI人才。
ChatGPT問世後,扎克伯格和考克斯與首席技術官安德魯·博斯沃思共同監管公司所有AI相關事務。三位高管現在每週投入數小時參與AI會議並審批項目。
新成立的生成式AI團隊專注於開發實用產品和工具而非科學研究。該團隊收到超過2000份內部申請,並迅速從不同部門抽調了數百人。知情人士稱,硬件資源已從AI研究部門調撥,正用於訓練新的生成式AI模型。
3月,扎克伯格表示"推進人工智能並將其融入我們所有產品"是公司最大的一筆投資。在5月Meta年度股東大會上,扎克伯格稱公司還希望將這項技術拓展至元宇宙領域。
Meta公司位於加州門洛帕克的總部圖片來源:David Paul Morris/彭博新聞Meta發言人表示,在本月初與員工的市政廳會議上,扎克伯格宣佈了公司正在研發的多款生成式AI產品。這些創新包括為Messenger和WhatsApp打造的AI助手、用户文字指令生成的AI貼紙(可在聊天中分享),以及允許Instagram用户通過文字指令修改照片並分享至Instagram快拍的功能。
扎克伯格還分享了部分僅供內部使用的生成式AI工具,包括名為Metamate的生產力助手,它能從內部資源調取信息執行員工指令。Meta發言人透露,作為試運行的一部分,Metamate近期已向大批員工開放。
“過去一年,我們在生成式AI領域見證了真正驚人的突破——質的飛躍。“扎克伯格在市政廳會議上表示。
知情人士透露,Meta仍面臨廣泛挑戰。在用户隱私實踐經受政府與媒體長達七年嚴格審查後,公司對風險的容忍度持續降低,這導致在AI產品推出方式及時機方面產生諸多摩擦。
過去,Meta在開發和發佈大型語言模型時不得不考慮其公眾聲譽,因為這些模型容易產生錯誤答案或冒犯性言論。
據知情人士透露,幾年前,人工智能研究人員正在開發一款代號為Tamagobot的聊天機器人,該系統基於早期版本的大型語言模型。團隊對其表現印象深刻,但認為在公司因2016年總統選舉期間允許其平台上錯誤信息氾濫而面臨嚴厲批評時,發佈該產品並不值得。, 其中一位人士表示。
2022年8月Meta發佈BlenderBot 3聊天機器人時,公眾監督的擔憂同樣顯現。發佈後一週內,BlenderBot 3因發表虛假陳述、冒犯性言論和種族主義評論而遭到嚴厲批評。該系統還稱扎克伯格“令人毛骨悚然且操縱性強”。
Meta發言人表示,該項目在研究結束前仍持續運行了一年多,公司在整個生命週期中保持了開放透明的態度。他補充説,Meta還發布並完成了許多其他項目,這些項目證明了公司願意承擔風險。
但2022年11月,當公司發佈以科學為重點的大型語言模型Galactica時,類似情況再次上演。由於系統提供錯誤和帶有偏見的答案,遭到科學家們一波批評後,Meta在發佈三天內將其關閉。
兩週後,OpenAI發佈了ChatGPT。
聯繫Karen Hao,郵箱:[email protected],Salvador Rodriguez,郵箱:[email protected],以及Deepa Seetharaman,郵箱:[email protected]
刊登於2023年6月17日印刷版,標題為《扎克伯格加強對AI工作的掌控》。