科技雲報道:產業為根大模型應用為擎,容聯雲推動企業營銷服場景重塑_風聞
科技云报到-深度原创企业级IT内容行家07-13 19:53
科技雲報道原創。
“沒有應用,光有一個基礎模型,不管是開源還是閉源,一文不值。”在2024世界人工智能大會(WAIC 2024)現場,百度創始人、董事長兼首席執行官李彥宏直言。
國產大模型的種類越發豐富,從文生文/圖模型到文生視頻模型、端側模型等讓人眼花繚亂。同時,行業所關心的不再僅是參數規模、是否開源等技術問題,大模型的落地應用正成為被探討最多的話題。
作為WAIC 2024重要的配套會議之一,7月6日,以“數智聚合 產業向上”為主題的容聯雲生成式應用與大模型商業化實踐論壇在上海舉行。論壇聚焦大模型的行業實踐,圍繞大模型在落地過程中面臨的挑戰、關鍵路徑、場景應用,以及如何為業務賦能等角度,邀請企業大模型技術負責人、海外專家學者和行業人士展開交流探討與觀點分享,以期為大模型的行業應用提供路徑指引與經驗借鑑。


專業智能體****大模型商用的有效路徑
在經歷了“百模大戰”的錘鍊之後,企業們的技術能力正變得越發強勁,大模型開始走向商業化落地。今年以來,國內大模型項目中標公告已發佈超230個,遠超2023年全年水平。中國10億參數規模以上的大模型數量已超100個,行業大模型深度賦能電子信息、醫療、交通等領域,形成上百種應用模式,賦能千行百業。
業界的共識是,隨着技術迭代曲線放緩、基礎大模型賽道的競爭格局企穩,生成式AI市場的性質正在發生變化,更多的創新和價值創造正在嚮應用層匯聚。從“百模大戰”到“降價潮”,從“卷技術”到“卷價格”再到“卷應用”,真正可行的商業模式究竟幾何?螞蟻、字節、百度、智譜以及初創企業已經在走各自不同的路了。可以肯定的是,當大模型正成為各行業“標配”,誰能夠率先將大模型商業化,誰就有機會喝到“頭啖湯”。
論壇上,容聯雲產業數字雲VP兼諸葛智能創始人孔淼發表了《企業營銷服場景重塑》主題演講。孔淼在感嘆於新技術帶來突破的同時,也看到了更多問題,比如真實溝通場景的幻覺控制、大模型的算力成本控制,以及新技術融入到企業業務流程裏面的改造和管理成本。他認為,大模型很難通過一個技術去顛覆企業內部的客服和營銷的一系列溝通場景,更重要的是如何用新技術能力做好應用落地,幫助企業真正實現價值提升。
為此,容聯雲在去年12月就推出了容犀Copilot,通過大模型與小模型相結合的能力來解決幻覺問題,並有效控制算力成本,並融合知識流轉、話術挖掘、會話洞察等多方面的業務能力,根據企業與客户產生的會話數據與業務數據、產出金牌溝通策略。
隨着容犀Copilot在各行業落地,以及與企業客户進行更多的聯合探索之後,容聯雲對業務場景進一步深化與細化,並結合日趨成熟的智能體技術,對容犀智能大模型應用進行全新升級。這也是容聯雲在大模型應用領域的最新成果。
據孔淼介紹,客服領域一直是智能化應用比較早的場景之一。2015年開始,客服行業從全渠道客服升級為智能化客服。在大語言模型出現之前,想要培養出一名合格的客服,大多數情況下需要極高的知識管理成本和訓練師成本,要先將一些複雜的業務場景轉化為任務,之後通過這些任務,再上線轉化成應用能力。而實際上這種開放式的業務場景,很難做到包容和兼容。
容聯雲將容犀Copilot進一步升級,形成容犀KC大模型知識助理(Knowledge Copilot)、容犀IA大模型洞察代理(Insight Agent)、容犀CA大模型陪練代理(Coach Agent)、容犀AC大模型坐席助理(Agent Copilot)和容犀VA大模型坐席代理(Virtual Agent)五位一體的智能客服解決方案,覆蓋了從營銷、銷售、服務到企業內部管理的核心場景,為企業打造全面、高效的營銷服智能化生態系統。


知識庫是客服面向客户服務的最基礎素材,包含關於產品的FAQ、操作手冊、解決方案、故障排除指南等內容,這個知識庫應該始終是最新、最準確、且易於檢索的。在實際落地過程中,此類知識庫的冷啓動成本很高,只能通過輸入大量知識文檔進行構建。客服在應用過程中依靠關鍵字和意圖的方式,會遭遇檢索慢、準確率低等痛點,其次大量繁雜的業務知識導致其後期優化很難,更新迭代的速度很慢。
容犀KC大模型知識助理融合了向量庫、RAG、數據飛輪等技術,將行業知識進行向量化,同時大模型能夠幫助客服快速理解用户上下文,並快速定位文檔知識內容並生成總結,通過對知識庫自動拆解片段,進行語義切分和QA抽取,進一步提升知識應用效率,全面降低知識庫構建成本。
客服與客户溝通的每一次都會形成寶貴的數據資產,會話數據揭示了客需、客訴、商機,反映了服務的不足與資源浪費。容犀IA大模型洞察代理融合官網、APP、公眾號、小程序、400電話等各類場景的會話數據,並通過Prompt定義業務目標訓練赤兔大模型,幫助客服對會話內容進行理解,挖掘客户潛在需求點,同時對需求進行分類和統計,實現客户需求的自主洞察。
好的客服能夠提升客户對企業的好感,成為企業無形的競爭力。行業內目前普遍存在一些業務培訓挑戰,比如通過陪練課件、學習任務、考試評分等傳統方式導致訓練千篇一律,重複性學習無法實現能力的高效輸出。
容犀CA大模型陪練代理運用大模型能力,從海量的會話語料中提煉真實場景的陪練材料,根據坐席日常的會話情況制定對練任務,同時可以基於文檔材料智能化輸出考試試題,降低出題成本及難度,此外還能根據坐席學習、對練、考試及日常溝通情況,構建坐席能力畫像,對培訓效果進行量化評估,實現客户陪練環節的降本增效。
傳統客服的人工坐席模式面臨着服務話術與標準不統一,會話質量及服務難監控難追蹤、人工輸入工單、話後時間長等痛點,不僅降低工作效率,還容易引發客服人員的疲勞和情緒壓力。
容犀AC大模型坐席助理利用大模型基於語義理解、立場轉變、情緒變化從海量錄音、會話中挖掘最優話術及策略,兼顧話術“質”與“量”,同時可以對坐席溝通中的情緒、語速、辱罵行為、違規行為、搶插話、流程等進行實時監控和預警提醒,還能為客服實時提取工單內容,理解上下文做出會話小結,縮短話後時間,在提升服務質量和效率的同時,也全面改善了用户體驗和感受。
圍繞傳統坐席代理出現的服務響應慢、人力成本高,以及機器人坐席的答非所問、回覆千篇一律、語義理解不準確等問題,容犀VA大模型坐席代理將大模型用於優化任務流程和語義識別之中,通過大模型洞察提煉會話流程,並能準確理解用户上下文,根據客户問題精準匹配答案,同時還能夠智能識別客户需求,並引導潛在客户留資跟進。
從對業務的賦能角度看,該五大應用可以被視為垂直業務領域的專業智能體,為企業提供了從構建知識庫到多模態交互能力、企業級流程協同、智能知識管理、個性化學習與陪練、會話洞察與營銷策略推薦、智能坐席代理等核心環節的智能化閉環,企業能夠實現更高效的客户溝通、更精準的客户洞察和更優化的服務流程,在根本上促進了企業營銷效率、運營效率、服務質量的多重飛躍。
容聯雲大模型產品負責人唐興才結合保險客户服務、製造業上門維修工單、壽險線下轉線上服務、銀行櫃枱綜合服務四大場景,從技術可行性和應用價值兩個維度進行分享。
唐興才表示,保險客户服務之前大多圍繞話務進行分析,比如打了多少電話、打了多少時長,但類似潛在需求、客户投訴等具有價值的內容無法被有效挖掘。產生這些問題的原因一個是對話語音量大,另一個是客服總結難以標準化,無法精準高效進行提煉。容聯雲改變了原有人工聽錄音抽檢和話務統計報表的模式,通過大模型讓會話數據發揮決策依據,實現了數據洞察、發現諮詢熱點、挖掘產品投訴點等多種效果。
製造業上門維修場景下,經常會遇到檢修師傅分佈廣、培訓難、工單內容口語化、工單客服人工分類,流轉慢、預警不及時,易造成批量投訴等情況。容聯雲基於大模型語義上下文提取工單故障,並在大模型的洞察能力上設定了提取標籤的能力,提供工單的分類或分撿預警策略,將準確率從40%提升到80%左右,將預警週期從周提升到天的級別,避免了客户的批量客訴。
隨着壽險線上業務的增長,針對客服自動化率低、依賴人力,成本增長快等痛點,容聯雲通過大模型洞察客户服務記錄,從人工客服流程中提取服務流程,比如證件信息變更、實名認證、聯繫方式變更、保單貸款、保單還款等,以此為基礎構建智能化服務助理,從而找到客户真正需要的服務流程,並基於語義理解,很好地理解客户需求,響應保單查詢服務,實現千人千面的個性化服務。
對於銀行櫃枱綜合服務,相關業務和政策複雜多樣,且都面臨有效期的問題,櫃枱服務人員靠自身記憶無法滿足客户較高的服務要求,而諮詢老員工或總行業務人員往往需要的時間較長,無法做到及時響應。容聯雲利用大模型將知識問答助理嵌入進客服系統,客服人員可以在與客户對話過程中,進行劃詞檢索,同時基於語義全文檔檢索知識,答案可溯源,提升辦理貸款業務效率。

小切口大縱深****專業化、場景化、行業化
大模型商業化應用的核心在於能否真正解決用户的問題。
沿着這一邏輯,大模型一個最為前景的應用場景,就是垂直領域專業服務。越是複雜的問題,越是專業的領域,越能孕育出更具價值的商業化應用。最典型者如醫療、金融等行業。
中國蓬勃發展的移動互聯網為大模型行業提供了豐富而複雜的應用場景,以醫療和金融為代表的高專業度、高壁壘行業,雖然已經初步實現數字化或線上化,但在大模型時代,誰能深刻改造這些場景,破解更復雜的問題,誰就能抓住發展的先機。
“企業希望大模型實現集團級賦能但難尋切入點,建議將智能客服作為大模型落地之路的第一站。”在不久前結束的中關村論壇上,北京市科委發佈《北京市人工智能大模型行業應用分析報告》時,在大屏幕上特別標出了這一句話。
為何客服成了大模型落地的第一站?大模型在理解用户提問、連續且24小時回答用户問題等方面確實能夠帶來不小的能力提升,雖然距離真人尚有差距,但算上成本賬,大模型已然“可用”。
不過,如在網購場景,AI客服雖然在對話上相比以往更加“絲滑”,顯得更有情商,但也會出現答非所問的情況。在不少從業者看來,雖然AI客服可以降低成本,但若想“更進一步”,從可用變為好用,並在更多場景發光發熱,大模型還需要進一步的升級。
實際上,早在大語言模型技術出現之前,AI就已經被廣泛用於客服領域。原來做AI,是靠定義一堆任務,但銷售服務過程中很多地方想不到客户以什麼樣的方式問,如何打動客户,這都是完全開放的業務場景,原來的技術就侷限了。大模型出來後,恰巧可以通過對於語言的能力,包括有初步的AGI的這種理解推理的能力,解決了場景泛化問題。
《北京市人工智能大模型行業應用分析報告》認為,在大模型技術應用薄弱的行業內可優先推廣智能客服場景,從需求側講,行業內企業可以直觀地體驗到大模型帶來的便捷服務,增強企業內的羣體認同,為後續推動大模型在全產業鏈的應用落地減小內部阻力;從技術側講,智能客服應用場景屬於大模型的通用場景之一,相對技術難度較小,且可充分發揮大模型技術優勢,有助於大模型快速落地。
儘管關於大模型商業模式的討論尚顯早期,但大模型的商業化應用,尤其是專業智能體,藴藏着巨大的潛力。通過將大模型與各專業領域深度融合,圍繞每一個細分小場景形成不同的解決方案,解決用户的實際問題,這是大模型的中國機遇,同時超大市場規模和海量需求,也將充分大模型的商業價值,為大模型的持續進化找到一條切實可行的路徑。
【關於科技雲報道】
專注於原創的企業級內容行家——科技雲報道。成立於2015年,是前沿企業級IT領域Top10媒體。獲工信部權威認可,可信雲、數博會、國家網安周與全球雲計算等大型活動的官方指定傳播媒體之一。深入原創報道雲計算、人工智能、大模型、網絡安全、大數據、區塊鏈等企業級科技領域。