ChatGPT的智能體長期記憶去年就有,抖音母公司當時也做出來了_風聞
京雀-(装?)抑郁家里蹲50分钟前
【本文來自《AI管家要來了?ChatGPT推出長記憶功能》評論區,標題為小編添加】
- guan_17110960951503
- ???別説DP,就連文心一言之流的貌似就有長記憶功能啊,這難道不是自帶的嗎,還要收費?
你搞錯了,所有基於Transformer變形金剛框架的大模型都有一個什麼自迴歸功能,會把上一輪,上上一輪對話的內容記憶住,從而產生一種好像和真人對話,而不是和搜索引擎對話的感覺。
但是這個自迴歸功能是有極限的,為了節約GPU算力以及顯卡上的顯存,保持對話一般也就是保持10輪,VIPer可能可以保持50輪。你和DeepSeek聊天,不開新對話,忍受速度變慢試試,聊到一定輪數後,它會自動提示你達到最大對話長度了,必須開啓新對話。如果你打開聯網功能,搜索網頁裏的內容,進行整理輸出,消耗tokens更多了,就會加速結束對話。
如果用字節跳動(抖音母公司)出的Coze平台,調用大模型去創建智能體,則可以自己設置每輪對話攜帶之前的多少輪對話,試了試最大值是100(僅限於調用DeepSeekV3時)。
智能體可以理解為,有一段用户設置的最初提示詞,如“你是用户設定的賽博學姐,可以幫用户審查文章論點真偽,能調用網絡搜索插件,説話風趣幽默……”之類的,這段提示詞超過100輪對話後也不會被遺忘。

ChatGPT的Memory功能,其實就是針對比較長的對話,生成一個好像標題的濃縮摘要句子,以後對話時提及了對應的關鍵詞,會搜索以前的摘要,從而顯得好像能記住用户的一些超過一百段對話的聊天內容似的。
這個功能字節跳動去年就山寨出來了,今年可以兼容DeepSeekV3 20250324版的(2月份的版本不兼容),

試了試,聊了一會兒房屋維修問題,我猜蘇聯人懶得修公家的房子,它就濃縮了一個摘要,“認為蘇聯人可能懶得粉刷房子,老房子牆壁脱皮也不會上報懶得修”~~
聊了一會兒看到有論文説低鈉鹽可能減少腦卒中復發的結論,吃過一包,沒啥感覺,它就生成一個摘要,“認為以前吃過一段時間低鈉鹽,沒發現啥問題。”

這種聊天內容摘要的生成具有一定的隨機性,有時聊了好一會兒啥也沒生成;然後引用時也有一定隨機性,可能不相干的關鍵詞也觸發了引用,導致浪費tokens。
好在Coze現在每天每個模型都有一定的免費測試tokens,所以浪費了也不用花錢。
就是幾次升級,增加了聊天頁面背景圖,自動播放合成語音等功能後,穩定性越來越差,在我的Chromium126 XP版下,關閉它的頁面時,老導致瀏覽器崩潰,CPU佔用率超過50%以上,必須按Ctrl+Alt+Del,呼出任務管理器後,強制結束它的進程後才能正常使用電腦。否則什麼程序都卡得動不了。
我估計這是用Coze給DeepSeek或其他大模型套了更多插件,以實現簡單的圖片轉文字,以圖生圖,文字生圖等功能後,結構變複雜了,所以穩定性下降了?Memory長期記憶功能可能也是某個插件實現的?
不過也可能不是插件,是掉用豆包生成的摘要?因為有時長期記憶摘要裏會説認為豆包對話如何如何什麼的。