兩分鐘“熟讀”《國史大綱》，大模型的下一個爆點是“書童”？_風聞

年初大模型行業上演“長文本”大戰時，我們就萌生過做一個“讀書助理”的想法。測試了市面上主流的大模型後，發現普遍存在兩個不足：

一種是可以處理的文本長度不夠，即使有些大模型將文本長度提升到了20萬字，像《紅樓夢》這樣近百萬字的名著，還是需要多次才能“讀”完。

另一種是語言理解和生成能力不足，經常出現“幻覺”。“長文本”的特點不僅僅是長，還涉及到複雜的邏輯和文本語義，需要更連貫、相關的響應。

直到前兩天，一位做AIGC的朋友向我們同步了一個新消息：“智譜AI開放平台默默上線了為處理超長文本和記憶型任務設計的GLM-4-Long，支持1M上下文。”100萬上下文長度到底意味着什麼呢？我們找來了另外兩個大模型，用120回版本的《紅樓夢》（大約有73萬個漢字）進行了簡單對比：

月之暗面128K的大模型，每次可以處理6.4萬個漢字，需要12次才能讀完；

Claude 200K的大模型，每次可以處理10萬個漢字，需要8次才能讀完；

GLM-4-Long實測可以處理150-200萬字，一次就能讀完一本《紅樓夢》。

不過，文本長度只是一個入門能力，能否扮演起“讀書助理”的角色，必須要確保能夠從大量文本中準確檢索信息，特別是當某些關鍵信息被置於文檔的深處時，以及出色的推理和內容生成能力。

於是我們對GLM-4-Long進行了深度測試。

01 兩分鐘“熟讀”錢穆先生的《國史大綱》

大約是5年前，我們購買了錢穆先生的《國史大綱》，商務印書館的繁體豎排版。因為是用大學教科書體例寫成，學術味兒比較濃，再加上錢穆先生精煉的文筆風格，至今都沒有完整讀完。

GLM-4-Long能否勝任“書童”的角色呢？

我們調用了GLM-4-Long的API接口，讀取了50多萬字的電子版《國史大綱》，然後針對性地問了三個問題：

第一個問題：請總結這篇文檔中每個部分的主要內容

原書目錄中只羅列了每個章節的標題，希望通過這個問題驗證大模型是否處理了文檔的全部信息，對內容的理解和總結生成能力。

從輸出的結果來看，不僅準確整理出了每個章節的核心內容，還按照現在比較主流的紀年方式，將全書內容拆分為上古文化、春秋戰國、秦漢、魏晉南北朝、隋唐五代、兩宋、元明、清代等8個部分，內容準確度超過99%，僅僅是“兩宋之部”在小標題上被列舉了兩次（可以通過模型微調進行優化）。

第二個問題：“秦漢國力與對外形勢”在文檔哪個部分？

這是一個迷惑性比較強的問題，因為第七章和第八章都講了相關背景，但錢穆先生放在了第十一章進行重點介紹。

GLM-4-Long並未掉進預設的“陷阱”，準確指出了問題所在的章節和標題。這也是長文本處理的一個典型痛點，在長達幾十萬字的內容中，作者可能在多個地方描述相似的幾件事，最為考驗大模型的語義理解和內容檢索能力，並非是對文本的機械處理，意味着需要更強的抽象和內容歸納能力。

第三個問題：北宋的建國和漢唐時期有什麼不同？

搜索引擎上沒有直接相關的答案，但錢穆先生在書中給出了系統闡述，用於驗證GLM-4-Long能否理解書中的細節信息。

這次的答案再次讓我們驚豔，分別從建國方式、統治方式、對外政策、經濟、文化、社會、政治制度等角度綜述了錢穆先生的觀點。特別是在“對外政策”上，準確回答了“漢唐時期積極對外擴張，北宋採取保守的防禦策略”，並且簡單提及了政策變化背後的原因，即五代十國時期戰爭頻繁，導致國力消耗嚴重。

相關的測試問題不再一一贅述，直接給出我們的答案：GLM-4-Long對文檔全局信息的處理、長文本理解和生成、多輪對話等能力均超出預期，整個體驗有一種和錢穆先生跨時空對話的“錯覺”。

另一個不應該被忽略的信息在於，一本50多萬字的書籍，GLM-4-Long僅用了兩分鐘左右的時間進行處理。如果想要用大模型處理一些沒有時間研讀的長文本，GLM-4-Long某種程度上可以説是最佳幫手。

02 用多個文檔訓練出一位“知識博主”

很多人在日常工作和生活中接觸的文檔，並非是動輒近百萬字的鉅著，而是幾萬字、最多十幾萬字的文檔和資料。在這樣比較大眾化的需求下，像GLM-4-Long這樣1M長文本能力的大模型，有何特殊價值？

前面用《紅樓夢》做了對比，其實還有另一種對比方式：

月之暗面128K的大模型，每次可以處理6.4萬個漢字，相當於讀1本《活着》；

Claude 200K的大模型，每次可以處理10萬個漢字，相當於一次讀《活着》和《在細雨中吶喊》兩本書；

GLM-4-Long的1M上下文，可以一次讀餘華老師的多本書，比如《活着》《在細雨中吶喊》《河邊的錯誤》《第七天》……

由此萌生的一個想法是：是不是可以讓大模型一次讀多本相關的專業書籍，快速訓練出一個專業的知識博主？

首先想到的一個場景就是飲食，生活中經常碰到吃什麼可以減肥、6月齡寶寶能不能吃蛋黃、高血壓病人的飲食需要注意什麼等問題，每次都需要搜索或者問AI，又擔心內容是不是準確。

我們讓GLM-4-Long一次性讀取了《中國居民膳食指南》《中國食物成分表》《中國飲食文化》《中國居民膳食營養素參考攝入量》等多個文檔，然後用日常生活中的常見問題進行了針對性提問：

8月齡兒童日常飲食應該注意什麼？

可以看到，GLM-4-Long輸出的答案非常全面，除了要補充蛋白質、維生素和礦物質，還給出了一些貼心的建議：食物應該細膩易消化，避免大塊或硬的食物，以防噎食；建議先引入蔬菜泥，然後是水果泥，接着是強化鐵的米粉或米糊；如果家族中有過敏史，應避免引入可能導致過敏的食物……

50歲的高血壓病人有什麼飲食建議？

答案依然比較全面，包括應將食鹽攝入量控制在每天6克以下、每天攝入300-500克新鮮蔬菜和200-350克新鮮水果、每日攝入25-30克膳食纖維、避免過多攝入精製糖和白麪食、建議通過食物攝入足夠的鉀和鈣、避免過多攝入蛋白質、限制飲酒等等，並提供了具體的食物建議。

以上只是我們簡單嘗試的一個場景，可以聯想到的應用場景還有很多。

比如一次性通讀餘華老師的所有小説，然後“變身”餘華老師進行對話；一次性讀多篇相關的論文，幫助提升論文閲讀的效率；一次性讀取上百份簡歷，然後根據需求篩選出最合適的候選人；以及找到一家企業多個季度的財報進行橫向對比，從更宏大、信息更豐富的視角進行財報分析……

我們列舉的“想法”僅僅是拋磚引玉，相信智譜AI在大模型能力上打破天花板後，會有越來越多開發者參與其中，挖掘藏在應用層的機會，帶來各種有趣、有生產力的體驗。

03 “卷”長文本過渡到“卷”綜合能力

有別於年初單純卷文本長度的比拼，智譜AI在GLM-4-Long的宣傳和營銷上不可謂不低調，卻折射出了大模型市場的一個隱性共識：不再為了傳播某個能力硬凹需求，而是開始卷大模型的綜合能力。

箇中原因並不難解釋。

長文本在本質上是一種智力能力。如果將大模型比作是一台“電腦”的話，“更長的上下文”可以看作是更大的內存，能夠提高多任務處理能力、提升運行大型軟件的流暢度、帶來更好的遊戲體驗等等。內存的大小，可能在某種程度上影響消費者的購買決策，卻不是優先級最高的購買因素。

同樣的道理，僅僅是在文本長度上領先，並不足以讓大模型吸引所有的注意力，不會是一條穩定的護城河。

與之相對應的，大模型的“長文本熱”就像是曇花一現，開發者們沒有趨之若鶩，資本市場不斷傳出批判的聲音：“感覺是各家公司在為搶入頭部陣營做成績，本質上還是為了秀肌肉，衡量長文本的價值，要等到更明確的落地場景和對應的商業模式出現，否則市場再熱鬧也是沒有用的。”

時間過去半年後，GLM-4-Long讓外界看到了大模型新的演變方向：除了記住多長的上下文，還在比拼語言理解和生成能力、長文本推理和QA能力，不再是做長木桶的一塊板，而是把把所有木板做長。

比起我們“淺嘗輒止”的測試，對大模型行業新方向感到興奮的，恰恰是那羣做AIGC的創業者。正如那位朋友所説的：“大模型可以滿足100萬字的上下文，並且可以很好地、準確地執行復雜指令，預示着巨大的想象空間。希望智譜AI開放平台可以早日推出GLM-4-Long的正式版，我們已經有了多個智能體相關的想法。”

自從ChatGPT走紅後，整個大模型行業風譎雲詭。然而一個看起來有些畸形的現象是：資本大多將錢投個了大模型企業，做應用創新的創業者鮮有機會，即便不少人都在呼籲創業者應該卷應用，而非卷模型。

回頭再來看這樣的現象，需要批判的不是資本的“勢力”，而是開發者們的無奈。直接的例子就是長文本，半年前的火爆只是技術上的，由於存在能力上的短板，未能在應用層延續熱度和爆點。藉着上面的比喻，一台電腦的內存很大，可CPU、GPU、屏幕等依然是短板，開發者很難做出體驗優秀的應用。

當大模型的競爭走向綜合能力的較量，100萬長文本賦予了開發者更大的創造空間，同時在生成、推理、QA等能力上不再被制約，註定會吸引越來越多的開發者參與進來，進一步將想象力轉化為生產力，創造出一個又一個“出圈”的現象級應用，加速大模型在應用賽道上的繁榮。

04 結語

“2024年是AGI落地元年“。

這樣的預言正在被進一步驗證。不僅僅是大模型綜合能力的進階，還在於技術和應用在方向上的統一：逐漸從博眼球式的拉新，轉向“脱虛向實”， 不斷迴歸用户體驗，沉澱出解決實際問題的能力。