大模型現狀：一邊速成，一邊參數內卷_風聞

當下大模型賽道的現狀：一邊是創業公司基於開源大模型速成，一邊是大廠在各種內卷大模型參數。

據機構不完全統計，目前中國10億參數規模以上的大模型已發佈79個。在大參數內卷的過程中，市場開始出現另一種聲音“不具備發展方向的參數提升是沒有意義的”。

為此，在發展方向上，當下一部分大模型已經聚焦到垂類領域應用。基於成千上萬的模型發展，底座或許會發生改變，但仔細一想，也總需要有人能夠在垂類行業中跑出來。

同時，在發展初期，雖然閉源大模型在質量上更優，也相對安全，但大模型生態終究需要一定程度的內卷，開源實際上可以助長大模型的繁榮。另一個角度，基於開源眾多企業有了賽道參賽的資格，但也總有人輕易就倒在了第一關匣——算力短缺。

説到底，大模型數量是在以倍數的數量在增長，但如果片面的看待大模型日益增長的數量，那麼某種程度上也會忽略掉背後部分公司對大模型的抉擇、掙扎，甚至是選擇後放棄的可能性。

眾所周知，人工智能三要素是：算力、算法和數據。開源只是處於算法階段，之後企業還需要對其進行大量的算力支持和數據訓練，這背後的成本是高昂的。

一、垂直大模型，創業公司還有盼頭嗎？

在開源大模型選擇上，基於成本和定製開發的原因，選擇小參數模型的創業型企業不在少數，甚至是該類企業的首選。

一個是預訓練成本問題。

國盛證券曾經估算，GPT-3訓練一次的成本約為140萬美元，對於一些更大的LLM模型，訓練成本介於200萬美元至1200萬美元之間。

包括在今年1月，平均每天約有1300萬獨立訪客使用ChatGPT，對應芯片需求為3萬多片英偉達A100GPU，初始投入成本約為8億美元，每日電費在5萬美元左右。

更何況，在大量資金投入之前，還需要大量的數據資源來支撐模型訓練。為此，另一個原因是預訓練需求問題。

有業內也曾表達過對此的看法：“大模型本身的泛化能力仍受限於數據。”

因為如果一旦對大模型的高質量數據篩選和訓練得過少，大模型的輸出質量問題是很明顯的，在體驗上，用户的體驗感也會大大降低。

可以説，在預訓練的過程中，僅僅是在數據的積累上就已經花費了大量的資金與時間。

更何況，在大模型賽道中，大多數的創業公司都是圍繞在行業垂直領域進行發展，付出雖然相對少，但一定不輕鬆。

具體一點來説就是，如果大模型要改變行業的商業模式的話，那麼對此最簡單的判定標準就是，該類大模型是否具備的行業數據足夠多，例如要對藏在暗處的黑產要有足夠的瞭解，才能不被黑產所用，處於安全被動的狀態。

另一個判定的標準就是，大模型在運行之時所處理的數據，最終輸出的質量如何。

説到底，想要基於開源模型去打破模型壟斷，還需要對大量的數據進行足夠的優化提升，並且對基礎設施的投入足夠完善。

如今的開源大模型實際上更像是網絡時代的Android，沒有大廠的落地場景、數據積累等優勢的創業公司，發展起來很不容易，但仍然存在機會。

事實上，達摩院也曾將“大小模型協作發展”視為未來趨勢之一。

就連創業公司追一科技相信“垂直大模型是堅實的機會，就像發現美洲大陸這件事遠不只成就了一人而已”。

於是如今我們可以看到眾多創業公司開始選擇入局大模型賽道，其中包括毫末智行、創新奇智、元語智能等AI創業公司所推出的DriveGPT雪湖·海若、奇智孔明、ChatYuan元語等大模型。

不過，國內雖然尚未有產品面向C端，但基於B端，大廠已經開始實現初步落地的過程中。

據悉，目前大廠都在計劃通過雲的方式對外輸出大模型的能力，雲計算成為A大模型落地的最佳方式，模型即服務(MaaS)越發受到關注，而這也將帶來大模型成本的降低。

那麼，創業公司還存在盼頭嗎？

二、勝負在於產品體驗與市場需求相匹配？

根據權威雜誌《Fast Company》預測，OpenAI 2023年的收入將達到2億美元，包括提供API數據接口服務、聊天機器人訂閲服務費等。

很顯然，各行業對大模型的需求是存在的，但基於安全性的考慮，加之to B對大模型亦步亦趨的態度，大模型當下安全係數有限。於是，在相對基礎，需求量高的對話、文檔內容生成、問答，包括協同辦公中對話、文檔生成等眾多場景，互聯網大廠也在優先做。

例如，現在人類只需要把商品的信息告訴AI，讓AI自動生成多種風格的商品帶貨腳本和風格，再配個數字人主播，就可以幫企業把貨給賣出去。據百度介紹，相比真人直播，數字直播可實現7*24小時不間斷直播，轉化率為無人直播間的2倍。

在雲上基礎設施作為大模型創業的必要底座下，擁有云計算的互聯網大廠具有一定的優勢。

根據IDC發佈的2022年全球雲計算IaaS市場追蹤數據來看，市場份額TOP10玩家都是中美的大公司，包括美國的亞馬遜、谷歌、微軟、IBM，中國的阿里、華為、騰訊、百度等。

雖然大模型的開閉源之爭，終究不會是靠某一個或幾個產品的出現而終結，還要更多頂尖人才參與、技術迭代和資金支持。

但橫做對比，眾多AI創業公司也缺少了一份如同創業獨角獸公司MiniMax的運氣。（不同的是MiniMax注重的是通用大模型）

7月20日，騰訊雲對外披露助力MiniMax研發大模型的最新進展。目前，騰訊雲長期支持MiniMax的千卡級任務穩定運行在騰訊雲上，可用性達99.9%。

據悉，自2022年6月起，基於算力集羣、雲原生、大數據、安全等產品能力，騰訊云為MiniMax搭建了從資源層、數據層到業務層的雲架構。

現實似乎再度證明了，拿到入場券是第一步，接下來考驗的是市場玩家們探索商業化和技術升級的能力。直白一點來説，AI創業公司想要在賽道中跑到最後，每一步都不能落下。

某種程度上來説，在大模型研發上創業公司也並非全無優勢。

雖然部分互聯網大廠已經實現初步場景落地，亦或是開始售賣服務獲得收入，但大廠以及MiniMax的目光更多是聚焦在通用大模型上。

而垂直大模型仍然是真空地帶。特別是對於傳統企業羣體來説，考慮到自身業務的IT屬性低、投出產比低等問題，選擇自研大模型的概率較低。

例如創新奇智聚焦在工業大模型產品“奇智孔明”；擁有一定數據優勢，往語言上發展的ChatYuan元語大模型；主打自動駕駛生成式大模型DriveGPT雪湖·海若。

不過有一説一 ，訓練的數據和方向不同，成本差別很大。

先是元語大模型從零開始做一次訓練的成本能做到千萬人民幣量級。而在自動駕駛生成式領域上，比ChatGPT 多設計一套新的語言，緊接着再把所有的真實道路駕駛數據，並“翻譯”成統一的語言的DriveGPT雪湖·海若，也存在着一定的成本投入。

某種程度上，AI創業公司能夠實現對大模型的大量投入，更多的是得益於ChatGPT商業和營銷方面的成功，能夠瞬間讓人們目睹了大模型的可落地性，而不是繼續隱匿在漫長的技術迭代中。

為此，當下實現落地的第一步，就是大模型的訓練成本、推理成本一定能做到比搜索還要低，而且還能保證即時性。

三、從概念到落地，到底有多難？

有觀點認為，能跑出來的中國大模型創業公司，很可能是垂直整合型。

簡單來説就是，一邊在做底層大模型的同時，找準一個模型最終的主應用場景，一邊收集用户數據並做出快速的迭代。

目測，元語智能更偏向於這一類。總結起來看，在很長的一段時間內元語智能都聚焦在自然語言大模型業務上。

元語COO朱雷並表示，“不會為了跟風盲目拓展圖片、視頻業務，元語的目標是實現‘ChatGPT’等前沿語言大模型的全面國產化。語言大模型的生態已經足夠大了，做好業務聚焦很重要。”

但對於其他往自動駕駛、工業生產等垂直大模型發展的創業公司來説，或許缺乏對一些特殊的行業數據掌握。

畢竟，在垂直大模型賽道，未來企業競爭的一個核心因素，就是私有數據和私有經驗，個體公司的流程並不被大模型者知曉時，可能就會有獨特的競爭力。

另外，業務聚焦的過程中，還需要到數據從源頭到預訓練、輸出的準確性。

目前，生成式人工智能在監管上也正在受到更多關注。近日國內發佈了 《生成式人工智能服務管理辦法（徵求意見稿）》，明確要求不得出現歧視，生成內容應當真實準確、防止生成虛假信息等，如果出現，除內容過濾外，還要通過模型優化等進行優化。

但如果是作為生成式人工智能的固有缺陷，這在從技術上難以保證和徹底解決。