清華學霸引爆“長文本”大戰，大模型的應用前景清晰了嗎？_風聞
智能相对论-智能和车，边评边测；未来和家，且品且鉴1小时前
作者 | 沈浪
Long-LLM（長文本大模型）時代似乎來得有些突然，而引爆這場熱潮的，竟是一家由清華學霸牽頭的本土AI初創企業。
前不久，月之暗面（Moonshot AI）公司宣佈旗下對話式 AI 助理產品 Kimi 應用現已支持200萬字無損上下文輸入。
對比去年10月份Kimi上線時僅支持的20萬字，這一波升級直接提升了10倍文本處理能力，同時也引起了強烈的市場反應，特別是在資本市場，Kimi概念股應運而生，諸如九安醫療、華策影視、中廣天擇等都受益於Kimi概念而實現了股價不同程度的漲幅。
這些刺激更讓大模型領域徹底捲起了長文本大戰。
01 “長文本”大戰，卷的不是字數而是財力
阿里率先完成自家的大模型產品升級，強化長文本處理能力，免費面向大眾開放最高1000萬字的長文本處理能力。
360則緊隨其後，宣佈旗下360智腦正式內測500萬字的長文本功能，並在360AI瀏覽器開放給用户使用。
而百度也宣佈在下個月進行版本升級，開放長文本能力，文字範圍會在200萬-500萬字。
目前，文心一言的文本上限大致為2.8萬字。而像GPT-4Turbo-128k公佈的文本範圍也不過為10萬漢字，Claude3200k上下文約16萬漢字。
可以説，這一波熱潮直接把國內的大模型廠商一下子都拉進了百萬量級的長文本競賽，而主流廠商的入局也為這場“長文本”大戰增添了很多看頭。
目前來看，“長文本”大戰的賽點主要呈現在兩個方面。
一方面，是大模型的支持文本參數。類似阿里通義千問的1000萬字、360智腦的500萬字、百度文心一言的200萬-500萬字、Kimi的200萬字等等，都在極力向市場爭“彩頭”，告訴用户自家的長文本處理能力足夠“長”。
另一方面，是長文本處理能力的開放程度。有意思的是，Kimi是免費開放給用户使用的，阿里通義千問的長文本處理功能也是免費的，360智腦、百度文心一言也沒有要收費的意思。——以“長文本”大戰為例，今年的大模型競爭遠比去年要“卷”得多。
還記得去年大火的妙鴨相機，以及各式各樣的圖片生成式服務，都或多或少地通過各種形式如充值、辦會員等，要求用户付費才能體驗。
今年大模型領域的這把“火”燒得旺，也燒的離奇地“free”。
為什麼？
Kimi自升級以來，就有大量用户不斷湧入，激增的流量更是一度讓月之暗面（Moonshot AI）的服務器承受了巨大的壓力，一度陷入宕機，旗下的App和小程序都無法正常使用。
根據月之暗面（Moonshot AI）發佈的官方消息，從3.20觀測到流量異常增高後，已經進行了5次擴容工作。推理資源會持續配合流量進行擴容，以儘量承載持續增長的用户量。
簡單來説，用户對長文本功能是非常有興趣的，相關的市場需求還在保持持續性的、爆炸性的增長。同時，大量的用户湧進，不僅提高了大模型產品的知名度，更重要的是在大量用户的基礎上通過類似於UGC的模式去探索大模型的應用，或許更能進一步推動Long-LLM（長文本大模型）的商業化進程。
當然，在這個過程中，不可避免地就得投入大量資金，一旦商業化加速，大模型廠商就得做好“卷”財力的準備。
阿里通義千問目前免費對所有人開放高達萬頁的文檔處理能力，如果要計算成本，按照目前最便宜的市價0.1元/頁，10000頁的文檔光解析費用就要1000元，這還不包括解析完成之後大模型處理文檔的成本。考慮到通義千問網頁、APP、釘釘等多個端口的用户基數，需要投入的資金恐怕不會是個小數目。
大模型的商業化在開始階段並非“賺錢”，而是“燒錢”。
02 長文本，直接“接駁”商業化場景
在大模型的商業化進程上，長文本的爆火是很關鍵的一環。
就大模型的技術原理而言，解決長文本問題是必要的。因為文本長度的提高，對應的模型能解決問題的邊界也將大幅提升，兩者呈現出明顯的正向關係。
傳統的文本處理模型受限於訓練結構，可支持的文本範圍都不算長，在處理複雜任務和深度專業知識（這一類知識往往都是長篇鉅著）時，只能拆解輸入訓練，由此就有可能導致輸出的結果上下文邏輯不連貫不順暢等問題。
區別於傳統的文本處理模型，長文本模型就具備更準確的文本理解和生成能力以及更強大的跨領域遷移能力。這對於打造垂直領域的行業專家是一個非常必要的能力支持，比如面向一些長篇鉅製的醫療文獻、法律文件、財務報告等，長文本模型就具備更好的理解能力，對應完成跨領域學習和應用，從而打造出更專業的醫療助理、法律助理以及金融助理等應用。
話不多説，實踐一下。
在這裏，「智能相對論」向阿里通義千問相繼“投餵”了幾本長達數百頁的專業書籍，涵蓋以《高產母豬飼養技術有問必答》為代表的農業養殖、以《犬貓營養需要》為代表的寵物餵養等等小眾領域。
結果所能實現的效果確實令人驚訝，阿里通義千問不僅能高度概括總結這些長篇鉅著的主要內容，還能有針對性的給出具體篇章的知識解答。比如，在《高產母豬飼養技術有問必答》一書中，「智能相對論」向其提問“夏季高温提問應該如何飼養母豬？”很快就得到了書中的精煉解答。
在日常生活中，或許有很多書籍是我們沒辦法去仔細閲讀和學習的，但是隻要有長文本大模型予以支持，那麼基本上人人都能創造一個專業的垂直領域助理。
這或許會顛覆現在我們獲取信息、知識的渠道，去百度搜索或是去知乎提問、亦或是去小紅書討論這些路徑都將被替代。
在Kimi開放20萬字文本處理能力的時候，其做了一個簡單的對比，20萬字等於什麼？答案是等於先秦的全部古籍。隨着長文本大模型進入百萬量級的迭代，那麼這些能力還能實現進一步的進化，對應所賦予場景應用的機會就是無限的。
如今，在AI領域，Agent的話題也很火，被認為是下一個主流的應用形態。那麼，打造Agent的關鍵是什麼？答案正是大模型的長文本處理能力。
比如，Kimi就在幫助元隆雅圖等公司進行營銷升級，基於長文本處理能力來提供爆品文案分析、文案寫作、市場分析、輔助營銷策劃等功能。
儘管現在很多相關的應用還處在探索階段，但是誰又能確定下一個爆款應用不是出自自家的大模型+某個C端用户的想法/某個企業客户的業務融合？正因如此，大模型廠商們才不顧一切的升級並開放長文本功能，為下一場應用上的爆火做準備。
目前，長本文的火爆還只是技術上的，接下來的爆點大概率將是應用上的爆發。
03 寫在最後
2024年是大模型大規模走向商業化的關鍵一年。從Kimi的火爆程度來看，以長文本為代表的技術迭代走向C端引發了非常積極的反饋。同時，在「智能相對論」的實踐中，也預感這一能力隨着技術的成熟和完善，必然會在C端用户的手中被“玩出花來”。
只是目前很多的“玩法”還缺乏打磨，顯得比較粗糙。OpenAI在發佈GPT商店時，就期望要打造一個全新的生態，人人都能創造自己的專屬GPTs。
現在，擺在大眾面前的長文本熱潮，其實就是一個全民時代到來的信號。只要用户有書，會投餵，那麼同樣可以在國內的大模型平台上打造出屬於自己想要的專業助理，進而延伸到應用端的火爆。
當然，在這個過程中，書籍的版權問題、平台的審核問題以及巨大的流量湧入所帶來的諸多挑戰和問題，也是大模型走向商業化的難點。但是，其根本的方向是清晰的，Long-LLM（長文本大模型）時代已經拉開序幕，從技術到應用，接下來大模型廠商們有得捲了。
説實在，就目前各大廠商公佈的參數，從500萬到1000萬，基本上也足夠用了。大模型在長文本技術層面或許不會再有什麼值得捲了，哪怕是有也只是背地裏正常迭代和發展。
接下來的爆點只能是往應用層面來看。不管是To C還是To B，誰家的平台最先把大眾化的應用探索並驗證出來，再加以打磨推向大眾市場，那麼誰就有可能成為下一個市場的寵兒。
*本文圖片均來源於網絡
此內容為【智能相對論】原創，
僅代表個人觀點，未經授權，任何人不得以任何方式使用，包括轉載、摘編、複製或建立鏡像。
部分圖片來自網絡，且未核實版權歸屬，不作為商業用途，如有侵犯，請作者與我們聯繫。
•AI產業新媒體;
•澎湃新聞科技榜單月度top5;
•文章長期“霸佔”鈦媒體熱門文章排行榜TOP10;
•著有《人工智能 十萬個為什麼》
•【重點關注領域】智能家電（含白電、黑電、智能手機、無人機等AIoT設備）、智能駕駛、AI+醫療、機器人、物聯網、AI+金融、AI+教育、AR/VR、雲計算、開發者以及背後的芯片、算法等。