如何讓智能客服像真人一樣對話？容聯七陌揭秘：多Agent大模型_風聞

科技雲報到原創。

經歷了多年的“答非所問”、“一問三不知”，很多人已經厭倦了所謂的“智能客服”。哪怕是技術已經非常成熟、可以模擬真人發音的外呼機器人，也會因為“機感”重而被用户迅速掛機或轉向人工客服。

智能客服似乎遇到了一道坎，在理解用户、和用户對話方面，始終無法實現真正的“智能”。然而大模型技術的出現，讓智能客服看到了前所未有的曙光——基於大模型特有的生成式技術和智能的湧現，讓智能客服越來越逼近人們想象中的樣子。

但問題是，僅有大模型就夠了嗎？大模型技術要如何引入智能客服才能落地？落地後的大模型究竟如何在智能客服具體場景中發揮作用？又能為客服行業帶來了哪些改變？更進一步，對於企業和用户而言，這種改變是否具備真正的價值？

帶着這些問題，我們採訪了容聯七陌的產品負責人劉倩。容聯七陌是國內知名的企業智能客服系統服務商，專注智能客服領域已有十年內，其智能客服廣泛應用於教育培訓、醫療醫藥、電商直播、新零售、智能製造、汽車、泛互聯網等多個領域，服務了包括作業幫、復興健康、同仁堂、虎牙、多點、廣汽能源、紅旗、居然之家等等品牌。

作為智能客服領域探索大模型技術的“急先鋒”，今年8月，容聯七陌推出了行業首創的“新一代大模型智能客服解決方案”，讓智能客服在意圖理解、答案生成、情緒理解方面，都實現了跨越式的能力提升。

為了讓大家更好地理解大模型為智能客服帶來的革命性變化，以及技術和應用如何交疊落地，我們整理了與容聯七陌產品負責人劉倩的採訪內容，以對話的形式精選給大家：

Q：大模型熱已經持續一年多了，大模型技術到底為智能客服領域帶來了哪些變化？

A：大模型帶來的變化和價值，其實大家一直都在探索中。對於智能客服來説，主要是把大模型的理解能力和生成能力，應用到對話產品中。

比如，以前在網上買東西，智能客服給用户的回答是有套路的，所以看起來回復是冷冰冰的，有時候還答非所問。

但是有了大模型之後，智能客服就可以自己生成話術，接得住用户的話頭，回答自然流暢，就像和真人聊天一樣。在對話的理解上，大模型也可以應對用户多樣化的表達方式，比如不同的問法、錯別字等等，都能夠真正去理解。

所以，新一代智能客服會更多依賴原生大模型，對用户來説就是更自然、更智能的體驗，而非上一代產品那種簡單的、預製的回答。

Q：如果和上一代智能客服相比，您會如何評價新一代大模型原生的智能客服？

A：傳統的智能客服存在幾個痛點：

第一是大家吐槽的“智障”，其實就是機器對語義理解不足，用户提了訴求，但機器答非所問的概率很高。這是因為上一代智能客服，在技術上使用的是關鍵詞、BERT模型等機制，這種機制需要大量的數據標註，標註越多，理解能力就越強，但標註高度依賴人工。一旦人工標註和訓練不足，機器的理解能力就會不夠，結果就是答非所問。

第二是用户體驗不好，缺乏情感表達。用户是有情緒的，但上一代智能客服是預製的，不管用户什麼情緒來提問，機器都是標準回覆，比較機械。機器能不能打動用户、解決用户問題，完全取決於設計問答的那個人。

第三是複雜的任務類的處理很呆板。比如預定會議室，上一代智能客服一般會使用流程畫布，第一步問定會議室的時間、參會人等信息，再調取定會議室的接口，必須一步步按設定好的流程來。當用户的話題超出了設定範圍，智能客服就會直接告訴用户，它答不上來，最後轉人工客服的比例其實很高。

第四是成本高。上一代智能客服需要設立專門的機器人訓練師，因為他需要窮舉業務上的問題和標準答案，每個問題還要提供不少於30個的相似句。如果涉及到一些複雜的業務知識和流程，還需要梳理知識圖譜。這個訓練過程是非常複雜的，通常需要3個月到半年，然後才能達到80%的解決率。專門配置這樣一個訓練師，企業成本是非常高的。

但是有了大模型之後，新一代智能客服可以很好地解決這些痛點：

首先，大模型可以冷啓動，不需要標註數據，只需要把客户的業務知識維護進去，就能達到很好的效果——回覆人性化，接得上用户的話題，能夠理解用户的情緒等等。比如，一個用户一開口就很生氣，新一代大模智能客服會先進行安撫，然後再列出相應的解決方案。因為它能夠根據用户的情緒變化生成對應的回覆，所以用户對話的流暢度體驗就會很好，情緒價值也足夠。

再説流程類，就像前面提到的預定會議室的場景，大模型不需要固定的流程設置和窮舉話題。因為它有很強的推理能力，當我們給到它對應的提示詞工程，告訴它定會議室需要用户提供哪些信息，大模型就可以自己去思考已經拿到了哪些信息，還缺哪些信息，從而引導用户給出完整的所需信息。就算中間用户切換話題，大模型也可以繼續聊下去。

最後説成本，因為有了大模型，就不再需要專門的機器訓練師了，企業成本降低了，回答的準確率還上升了。

比如，我們測試過一個保險客户，對方提供了一個10萬字的測試資料，包括保險條款、規則制度等，整理出來有幾千個知識點。按照上一代智能客服的工作方式，光整理資料，最少就要一個星期，只能達到40%的解決率，後面還要不停的標註。

但是新一代大模型智能客服，用大模型自動清理知識點，1天就可以完成工作，測試的解決率高達100%，上線後解決率也高達92%（即沒有轉接人工的比例）。

Q：容聯七陌率先在業內發佈了新一代大模型智能客服解決方案，能否介紹一下這個解決方案的產品功能和亮點？

A：融合容聯七陌已有的產品，我們推出了4款基於原生大模型的智能客服產品：

LLM文本機器人：接待IM渠道（網站、公眾號、APP等）接入的用户需求；

LLM智能外呼 & LLM智能呼入：主要應用在呼叫中心場景中。

LLM座席助手：輔助人工客服，比如生成回應話術、自動生成服務小結、創建智能工單等。

這個解決方案最大的亮點，就是我們前面談到的基於原生大模型的理解能力、情緒感知能力。之所以這個方案可以取得很好的效果，關鍵就在於採用了“多Agent”的產品架構。

Agent就是智能體，它是構建於大模型之上的一個計算機的程序，可以模擬獨立思考的過程，靈活調用各類工具。為什麼我們要採用多個Agent的產品架構？我從客户業務的角度來談一下：

例如，我們合作過一個教育行業頭部企業，它的客服主要有三類工作內容：第一類是簡單的寒暄；第二類是回答業務的通用問題，比如APP頭像怎麼修改；第三類是VIP業務，比如VIP權益介紹、使用、續費等。

這三類工作是不同類型的任務，但又是多任務混合。要解決每一類任務，對應到產品結構上，就是一個具體的業務場景，匹配一個單一的Agent。通過這個Agent感知、思考、行動，然後來完成對應的單一任務，這樣效果更好。所以要完成複雜的任務，就需要多個Agent的架構，通過不同的Agent去解決不同業務場景的問題，這樣的架構能夠很好地提升準確率。

Q：請進一步談談容聯七陌是如何提升智能客服回覆的準確率？例如，針對大模型幻覺等問題，如何保證智能客服給出的答覆一定是準確的？如何判斷在什麼場景下，是由大模型自動生成回覆，還是由人工來回答？

A：第一，多Agent架構，本身就提升了智能客服回覆的準確率。第二，提示詞工程，我們根據客户的實際業務去抽象了很多提示詞，在工程上進一步提升準確率。

那麼如何判斷在什麼場景下，是由機器還是人工來回復？

如果只是簡單知識點或者推理，直接由大模型來回復就可以了。這裏我主要談談複雜推理的場景下，該如何處理？

例如，在保險業務中，對於能否投保的判斷是非常複雜的，如果不理解業務，光有知識點，是很難做出這種複雜推理的。所以針對大模型複雜推理場景，我們設計了三個功能模塊：

一是知識詞典，就是補充保險條款中的細節知識點，讓大模型能夠去推理。

二是最佳實踐，就是給大模型一些示例參考，進一步提升推理的效果。

三是二次複核，就是去複核大模型生成的回答是否準確，是否能解決用户的問題，是否包含違禁詞等等，這也是對大模型幻覺的一個檢驗機制。一旦發現大模型生成的回覆有問題，我們也有配套的策略，比如馬上轉人工或者進入（Ask Human Help）託管模式。

除此之外，我們也有專門的功能模塊，讓大模型自動對人工客服的服務記錄進行學習，這也是提升大模型效果很重要的一點。

Q：容聯七陌新一代大模型智能客服，在不同行業和不同場景中的落地效果如何？

A：目前我們已經在多個業務場景中進行了落地測試：

第一，售前的營銷套電場景。在某家居家裝公司中，使用大模型智能客服替代傳統流程式機器人，目前大模型機器人可以自然接住用户的話題，採用先聊天，再委婉請用户留下資料的方式，將留資率從21%提升到了32.91%。

第二，外呼邀約場景。依然以這個家居家裝公司為例，通過外呼機器人對留資客户進行回訪邀約。傳統外呼機器人需要投入大量人力對流程、話術、知識點、意圖等進行訓練，準確率不高，話術也固定，用户體驗一般。但是大模型外呼機器人可以根據上下文語義判斷客户意向等級、自動小結標籤等，將客户意向度提高了23%，信息抓取準確度也提高了46%。

第三，客服場景。在某大型企業內部的HRSSC服務中，員工提問涉及大量的公司規定、社保、公積金等問題，知識來源形式複雜，並且具有時效性。如果全部使用HR人工答疑，其他工作就忙不過來了。使用大模型智能客服後，可以極大緩解HR的工作壓力，HRSSC解決率高達97%。

第四，呼入接待場景。某保險公司使用傳統呼入機器人，為用户答疑頭部流程、理賠等，但解決率不到30%，轉人工接聽，無法滿足24小時服務，且人手不足。使用大模型智能客服後，實現了24小時接聽服務，且解決率提升至92.02%，大大緩解了人工壓力。

Q：容聯七陌新一代大模型智能客服方案，是否為標準化產品？如何滿足不同客户的個性化需求？

A：我們依然採用SaaS模式的標準化產品，因為一個企業想要私有化部署大模型，成本是難以承受的。所以在產品的功能設計上，我們採用了靈活可配置的SaaS模式，同時也設置了很多低代碼模板，方便客户根據自身業務去做搭建。

不同行業和場景的客户在使用容聯七陌大模型智能客服時，可以直接採用我們推出的4款新產品，也可以通過靈活配置Agent來滿足個性化的業務需求。

Q：市面上有多款大模型智能客服產品，同樣是基於大模型技術，為什麼體現出來的“智能”效果並不相同？決定“智能”效果的因素有哪些？

A：並不是有了大模型，智能客服就一定“智能”，通用大模型是否用得起來，產品應用層很重要。容聯七陌的智能客服之所以“智能”，和我們採用多Agent模型的產品架構，以及客服領域的豐富經驗密不可分。這種經驗就包括如何讓大模型理解客户業務場景，如何設計功能模塊去解決問題，如何讓大模型越用越智能等等，是一種技術和行業應用的結合。

我們也看到很多同行在探索智能客服的大模型應用，但大模型只是作為某種功能輔助，比如提升會話小結的效率、提升訓練師的工作效率等，其實是拿大模型輔助去提升上一代智能客服的效率，沒有從根本上改變上一代智能客服的痛點。這也是為什麼我們強調原生大模型的智能客服，它和上一代智能客服的體驗和效率完全不在一個級別。

Q：目前智能客服領域都在研究大模型Agent的落地路徑，它的競爭壁壘在哪裏？容聯七陌的優勢是什麼？

A：容聯七陌從2023年底就確定了大模型Agent的路徑，算是國內智能客服行業最早一批確立落地方向的企業。前面談到了容聯七陌在多Agent、提示詞工程、功能設計等多個方面的探索，主要體現了產品和技術的競爭力。

例如，容聯七陌獨創的Ask Human Help託管模式，就是用大模型機器人全程接待，告別了直接轉人工的模式。

在以往的客服人機協同模式中，機器轉人工是能明顯感知到的，而且人工回答完之後沒法再轉接給機器，客户體驗和人工成本都不好。但是有了Ask Human Help託管模式，用户不再使用點選按鈕的交互，而是直接用自然語言就可以交流，所以用户感知不到對面是機器人在服務。當大模型答不上來時，會轉給人工客服，但人工只需要回答轉進來的這一條消息，就可以立即再轉回給大模型。

在這種轉變下，人工客服的工作量從“會話級別”下降到“消息級別”，每個客户的會話服務時長可能從平均10分鐘下降到1分鐘內，那麼同等數量下的人工客服就能接待更多的客户。對於客户來説，服務的體驗也更好了，解決問題的效率也更高了。無論對於企業還是客户，在這種模式下都是受益的。

除此之外，容聯七陌還有很重要的一個競爭優勢，就是我們深耕客服領域已經有十年了，在客服解決方案的各個環節做了很多設計和優化，能夠充分貼合各行業客户的客服場景應用，比如將客服系統和人力、工單等業務系統做了集成。所以容聯七陌的大模型智能客服Agent解決方案，不僅是單一產品，而是一整套解決方案，涵蓋售前、售中、售後的全部場景。

同時，容聯七陌有多年的行業服務經驗，把行業客户的痛點、實施落地踩的坑都摸過一遍，所以我們為客户設計的解決方案能達到比較好的效果，而且客户需求設計、方案設計、實施、培訓、服務都跟得上。

Q：圍繞智能客服Agent，未來容聯七陌還將在哪些方向上進行探索？

A：我們將繼續增強產品的智能性和問題解決能力，持續探索大模型準確率的提升。同時，也會關注大模型多模態技術的發展，如ASR、TTS、音色克隆等，將大模型的不同技術應用到智能客服產品中去。

在市場應用上，目前容聯七陌智能客服已覆蓋了多個行業，未來期待新一代大模型智能客服能夠應用到更廣泛的行業和場景中，助力更多行業客户降本增效，提升客户服務和營銷體驗。

【關於科技雲報到】

企業級IT領域Top10新媒體。聚焦雲計算、人工智能、大模型、網絡安全、大數據、區塊鏈等企業級科技領域。原創文章和視頻獲工信部權威認可，是世界人工智能大會、數博會、國家網安周、可信雲大會與全球雲計算等大型活動會議的官方指定傳播媒體之一。

如何讓智能客服像真人一樣對話？容聯七陌揭秘：多Agent大模型