如何讓智能客服像真人一樣對(duì)話？容聯(lián)七陌揭秘：多Agent大模型

科技云報(bào)到原創(chuàng)。

經(jīng)歷了多年的“答非所問(wèn)”、“一問(wèn)三不知”，很多人已經(jīng)厭倦了所謂的“智能客服”。哪怕是技術(shù)已經(jīng)非常成熟、可以模擬真人發(fā)音的外呼機(jī)器人，也會(huì)因?yàn)椤皺C(jī)感”重而被用戶迅速掛機(jī)或轉(zhuǎn)向人工客服。

智能客服似乎遇到了一道坎，在理解用戶、和用戶對(duì)話方面，始終無(wú)法實(shí)現(xiàn)真正的“智能”。然而大模型技術(shù)的出現(xiàn)，讓智能客服看到了前所未有的曙光——基于大模型特有的生成式技術(shù)和智能的涌現(xiàn)，讓智能客服越來(lái)越逼近人們想象中的樣子。

但問(wèn)題是，僅有大模型就夠了嗎？大模型技術(shù)要如何引入智能客服才能落地？落地后的大模型究竟如何在智能客服具體場(chǎng)景中發(fā)揮作用？又能為客服行業(yè)帶來(lái)了哪些改變？更進(jìn)一步，對(duì)于企業(yè)和用戶而言，這種改變是否具備真正的價(jià)值？

帶著這些問(wèn)題，我們采訪了容聯(lián)七陌的產(chǎn)品負(fù)責(zé)人劉倩。容聯(lián)七陌是國(guó)內(nèi)知名的企業(yè)智能客服系統(tǒng)服務(wù)商，專注智能客服領(lǐng)域已有十年內(nèi)，其智能客服廣泛應(yīng)用于教育培訓(xùn)、醫(yī)療醫(yī)藥、電商直播、新零售、智能制造、汽車、泛互聯(lián)網(wǎng)等多個(gè)領(lǐng)域，服務(wù)了包括作業(yè)幫、復(fù)興健康、同仁堂、虎牙、多點(diǎn)、廣汽能源、紅旗、居然之家等等品牌。

作為智能客服領(lǐng)域探索大模型技術(shù)的“急先鋒”，今年8月，容聯(lián)七陌推出了行業(yè)首創(chuàng)的“新一代大模型智能客服解決方案”，讓智能客服在意圖理解、答案生成、情緒理解方面，都實(shí)現(xiàn)了跨越式的能力提升。

為了讓大家更好地理解大模型為智能客服帶來(lái)的革命性變化，以及技術(shù)和應(yīng)用如何交疊落地，我們整理了與容聯(lián)七陌產(chǎn)品負(fù)責(zé)人劉倩的采訪內(nèi)容，以對(duì)話的形式精選給大家：

Q：大模型熱已經(jīng)持續(xù)一年多了，大模型技術(shù)到底為智能客服領(lǐng)域帶來(lái)了哪些變化？

A：大模型帶來(lái)的變化和價(jià)值，其實(shí)大家一直都在探索中。對(duì)于智能客服來(lái)說(shuō)，主要是把大模型的理解能力和生成能力，應(yīng)用到對(duì)話產(chǎn)品中。

比如，以前在網(wǎng)上買東西，智能客服給用戶的回答是有套路的，所以看起來(lái)回復(fù)是冷冰冰的，有時(shí)候還答非所問(wèn)。

但是有了大模型之后，智能客服就可以自己生成話術(shù)，接得住用戶的話頭，回答自然流暢，就像和真人聊天一樣。在對(duì)話的理解上，大模型也可以應(yīng)對(duì)用戶多樣化的表達(dá)方式，比如不同的問(wèn)法、錯(cuò)別字等等，都能夠真正去理解。

所以，新一代智能客服會(huì)更多依賴原生大模型，對(duì)用戶來(lái)說(shuō)就是更自然、更智能的體驗(yàn)，而非上一代產(chǎn)品那種簡(jiǎn)單的、預(yù)制的回答。

Q：如果和上一代智能客服相比，您會(huì)如何評(píng)價(jià)新一代大模型原生的智能客服？

A：傳統(tǒng)的智能客服存在幾個(gè)痛點(diǎn)：

第一是大家吐槽的“智障”，其實(shí)就是機(jī)器對(duì)語(yǔ)義理解不足，用戶提了訴求，但機(jī)器答非所問(wèn)的概率很高。這是因?yàn)樯弦淮悄芸头诩夹g(shù)上使用的是關(guān)鍵詞、BERT模型等機(jī)制，這種機(jī)制需要大量的數(shù)據(jù)標(biāo)注，標(biāo)注越多，理解能力就越強(qiáng)，但標(biāo)注高度依賴人工。一旦人工標(biāo)注和訓(xùn)練不足，機(jī)器的理解能力就會(huì)不夠，結(jié)果就是答非所問(wèn)。

第二是用戶體驗(yàn)不好，缺乏情感表達(dá)。用戶是有情緒的，但上一代智能客服是預(yù)制的，不管用戶什么情緒來(lái)提問(wèn)，機(jī)器都是標(biāo)準(zhǔn)回復(fù)，比較機(jī)械。機(jī)器能不能打動(dòng)用戶、解決用戶問(wèn)題，完全取決于設(shè)計(jì)問(wèn)答的那個(gè)人。

第三是復(fù)雜的任務(wù)類的處理很呆板。比如預(yù)定會(huì)議室，上一代智能客服一般會(huì)使用流程畫布，第一步問(wèn)定會(huì)議室的時(shí)間、參會(huì)人等信息，再調(diào)取定會(huì)議室的接口，必須一步步按設(shè)定好的流程來(lái)。當(dāng)用戶的話題超出了設(shè)定范圍，智能客服就會(huì)直接告訴用戶，它答不上來(lái)，最后轉(zhuǎn)人工客服的比例其實(shí)很高。

第四是成本高。上一代智能客服需要設(shè)立專門的機(jī)器人訓(xùn)練師，因?yàn)樗枰F舉業(yè)務(wù)上的問(wèn)題和標(biāo)準(zhǔn)答案，每個(gè)問(wèn)題還要提供不少于30個(gè)的相似句。如果涉及到一些復(fù)雜的業(yè)務(wù)知識(shí)和流程，還需要梳理知識(shí)圖譜。這個(gè)訓(xùn)練過(guò)程是非常復(fù)雜的，通常需要3個(gè)月到半年，然后才能達(dá)到80%的解決率。專門配置這樣一個(gè)訓(xùn)練師，企業(yè)成本是非常高的。

但是有了大模型之后，新一代智能客服可以很好地解決這些痛點(diǎn)：

首先，大模型可以冷啟動(dòng)，不需要標(biāo)注數(shù)據(jù)，只需要把客戶的業(yè)務(wù)知識(shí)維護(hù)進(jìn)去，就能達(dá)到很好的效果——回復(fù)人性化，接得上用戶的話題，能夠理解用戶的情緒等等。比如，一個(gè)用戶一開口就很生氣，新一代大模智能客服會(huì)先進(jìn)行安撫，然后再列出相應(yīng)的解決方案。因?yàn)樗軌蚋鶕?jù)用戶的情緒變化生成對(duì)應(yīng)的回復(fù)，所以用戶對(duì)話的流暢度體驗(yàn)就會(huì)很好，情緒價(jià)值也足夠。

再說(shuō)流程類，就像前面提到的預(yù)定會(huì)議室的場(chǎng)景，大模型不需要固定的流程設(shè)置和窮舉話題。因?yàn)樗泻軓?qiáng)的推理能力，當(dāng)我們給到它對(duì)應(yīng)的提示詞工程，告訴它定會(huì)議室需要用戶提供哪些信息，大模型就可以自己去思考已經(jīng)拿到了哪些信息，還缺哪些信息，從而引導(dǎo)用戶給出完整的所需信息。就算中間用戶切換話題，大模型也可以繼續(xù)聊下去。

最后說(shuō)成本，因?yàn)橛辛舜竽Ｐ?，就不再需要專門的機(jī)器訓(xùn)練師了，企業(yè)成本降低了，回答的準(zhǔn)確率還上升了。

比如，我們測(cè)試過(guò)一個(gè)保險(xiǎn)客戶，對(duì)方提供了一個(gè)10萬(wàn)字的測(cè)試資料，包括保險(xiǎn)條款、規(guī)則制度等，整理出來(lái)有幾千個(gè)知識(shí)點(diǎn)。按照上一代智能客服的工作方式，光整理資料，最少就要一個(gè)星期，只能達(dá)到40%的解決率，后面還要不停的標(biāo)注。

但是新一代大模型智能客服，用大模型自動(dòng)清理知識(shí)點(diǎn)，1天就可以完成工作，測(cè)試的解決率高達(dá)100%，上線后解決率也高達(dá)92%（即沒有轉(zhuǎn)接人工的比例）。

Q：容聯(lián)七陌率先在業(yè)內(nèi)發(fā)布了新一代大模型智能客服解決方案，能否介紹一下這個(gè)解決方案的產(chǎn)品功能和亮點(diǎn)？

A：融合容聯(lián)七陌已有的產(chǎn)品，我們推出了4款基于原生大模型的智能客服產(chǎn)品：

LLM文本機(jī)器人：接待IM渠道（網(wǎng)站、公眾號(hào)、APP等）接入的用戶需求；LLM智能外呼 & LLM智能呼入：主要應(yīng)用在呼叫中心場(chǎng)景中。LLM座席助手：輔助人工客服，比如生成回應(yīng)話術(shù)、自動(dòng)生成服務(wù)小結(jié)、創(chuàng)建智能工單等。

這個(gè)解決方案最大的亮點(diǎn)，就是我們前面談到的基于原生大模型的理解能力、情緒感知能力。之所以這個(gè)方案可以取得很好的效果，關(guān)鍵就在于采用了“多Agent”的產(chǎn)品架構(gòu)。

Agent就是智能體，它是構(gòu)建于大模型之上的一個(gè)計(jì)算機(jī)的程序，可以模擬獨(dú)立思考的過(guò)程，靈活調(diào)用各類工具。為什么我們要采用多個(gè)Agent的產(chǎn)品架構(gòu)？我從客戶業(yè)務(wù)的角度來(lái)談一下：

例如，我們合作過(guò)一個(gè)教育行業(yè)頭部企業(yè)，它的客服主要有三類工作內(nèi)容：第一類是簡(jiǎn)單的寒暄；第二類是回答業(yè)務(wù)的通用問(wèn)題，比如APP頭像怎么修改；第三類是VIP業(yè)務(wù)，比如VIP權(quán)益介紹、使用、續(xù)費(fèi)等。

這三類工作是不同類型的任務(wù)，但又是多任務(wù)混合。要解決每一類任務(wù)，對(duì)應(yīng)到產(chǎn)品結(jié)構(gòu)上，就是一個(gè)具體的業(yè)務(wù)場(chǎng)景，匹配一個(gè)單一的Agent。通過(guò)這個(gè)Agent感知、思考、行動(dòng)，然后來(lái)完成對(duì)應(yīng)的單一任務(wù)，這樣效果更好。所以要完成復(fù)雜的任務(wù)，就需要多個(gè)Agent的架構(gòu)，通過(guò)不同的Agent去解決不同業(yè)務(wù)場(chǎng)景的問(wèn)題，這樣的架構(gòu)能夠很好地提升準(zhǔn)確率。

Q：請(qǐng)進(jìn)一步談?wù)勅萋?lián)七陌是如何提升智能客服回復(fù)的準(zhǔn)確率？例如，針對(duì)大模型幻覺等問(wèn)題，如何保證智能客服給出的答復(fù)一定是準(zhǔn)確的？如何判斷在什么場(chǎng)景下，是由大模型自動(dòng)生成回復(fù)，還是由人工來(lái)回答？

A：第一，多Agent架構(gòu)，本身就提升了智能客服回復(fù)的準(zhǔn)確率。第二，提示詞工程，我們根據(jù)客戶的實(shí)際業(yè)務(wù)去抽象了很多提示詞，在工程上進(jìn)一步提升準(zhǔn)確率。

那么如何判斷在什么場(chǎng)景下，是由機(jī)器還是人工來(lái)回復(fù)？

如果只是簡(jiǎn)單知識(shí)點(diǎn)或者推理，直接由大模型來(lái)回復(fù)就可以了。這里我主要談?wù)剰?fù)雜推理的場(chǎng)景下，該如何處理？

例如，在保險(xiǎn)業(yè)務(wù)中，對(duì)于能否投保的判斷是非常復(fù)雜的，如果不理解業(yè)務(wù)，光有知識(shí)點(diǎn)，是很難做出這種復(fù)雜推理的。所以針對(duì)大模型復(fù)雜推理場(chǎng)景，我們?cè)O(shè)計(jì)了三個(gè)功能模塊：

一是知識(shí)詞典，就是補(bǔ)充保險(xiǎn)條款中的細(xì)節(jié)知識(shí)點(diǎn)，讓大模型能夠去推理。

二是最佳實(shí)踐，就是給大模型一些示例參考，進(jìn)一步提升推理的效果。

三是二次復(fù)核，就是去復(fù)核大模型生成的回答是否準(zhǔn)確，是否能解決用戶的問(wèn)題，是否包含違禁詞等等，這也是對(duì)大模型幻覺的一個(gè)檢驗(yàn)機(jī)制。一旦發(fā)現(xiàn)大模型生成的回復(fù)有問(wèn)題，我們也有配套的策略，比如馬上轉(zhuǎn)人工或者進(jìn)入（Ask Human Help）托管模式。

除此之外，我們也有專門的功能模塊，讓大模型自動(dòng)對(duì)人工客服的服務(wù)記錄進(jìn)行學(xué)習(xí)，這也是提升大模型效果很重要的一點(diǎn)。

Q：容聯(lián)七陌新一代大模型智能客服，在不同行業(yè)和不同場(chǎng)景中的落地效果如何？

A：目前我們已經(jīng)在多個(gè)業(yè)務(wù)場(chǎng)景中進(jìn)行了落地測(cè)試：

第一，售前的營(yíng)銷套電場(chǎng)景。在某家居家裝公司中，使用大模型智能客服替代傳統(tǒng)流程式機(jī)器人，目前大模型機(jī)器人可以自然接住用戶的話題，采用先聊天，再委婉請(qǐng)用戶留下資料的方式，將留資率從21%提升到了32.91%。

第二，外呼邀約場(chǎng)景。依然以這個(gè)家居家裝公司為例，通過(guò)外呼機(jī)器人對(duì)留資客戶進(jìn)行回訪邀約。傳統(tǒng)外呼機(jī)器人需要投入大量人力對(duì)流程、話術(shù)、知識(shí)點(diǎn)、意圖等進(jìn)行訓(xùn)練，準(zhǔn)確率不高，話術(shù)也固定，用戶體驗(yàn)一般。但是大模型外呼機(jī)器人可以根據(jù)上下文語(yǔ)義判斷客戶意向等級(jí)、自動(dòng)小結(jié)標(biāo)簽等，將客戶意向度提高了23%，信息抓取準(zhǔn)確度也提高了46%。

第三，客服場(chǎng)景。在某大型企業(yè)內(nèi)部的HRSSC服務(wù)中，員工提問(wèn)涉及大量的公司規(guī)定、社保、公積金等問(wèn)題，知識(shí)來(lái)源形式復(fù)雜，并且具有時(shí)效性。如果全部使用HR人工答疑，其他工作就忙不過(guò)來(lái)了。使用大模型智能客服后，可以極大緩解HR的工作壓力，HRSSC解決率高達(dá)97%。

第四，呼入接待場(chǎng)景。某保險(xiǎn)公司使用傳統(tǒng)呼入機(jī)器人，為用戶答疑頭部流程、理賠等，但解決率不到30%，轉(zhuǎn)人工接聽，無(wú)法滿足24小時(shí)服務(wù)，且人手不足。使用大模型智能客服后，實(shí)現(xiàn)了24小時(shí)接聽服務(wù)，且解決率提升至92.02%，大大緩解了人工壓力。

Q：容聯(lián)七陌新一代大模型智能客服方案，是否為標(biāo)準(zhǔn)化產(chǎn)品？如何滿足不同客戶的個(gè)性化需求？

A：我們依然采用SaaS模式的標(biāo)準(zhǔn)化產(chǎn)品，因?yàn)橐粋€(gè)企業(yè)想要私有化部署大模型，成本是難以承受的。所以在產(chǎn)品的功能設(shè)計(jì)上，我們采用了靈活可配置的SaaS模式，同時(shí)也設(shè)置了很多低代碼模板，方便客戶根據(jù)自身業(yè)務(wù)去做搭建。

不同行業(yè)和場(chǎng)景的客戶在使用容聯(lián)七陌大模型智能客服時(shí)，可以直接采用我們推出的4款新產(chǎn)品，也可以通過(guò)靈活配置Agent來(lái)滿足個(gè)性化的業(yè)務(wù)需求。

Q：市面上有多款大模型智能客服產(chǎn)品，同樣是基于大模型技術(shù)，為什么體現(xiàn)出來(lái)的“智能”效果并不相同？決定“智能”效果的因素有哪些？

A：并不是有了大模型，智能客服就一定“智能”，通用大模型是否用得起來(lái)，產(chǎn)品應(yīng)用層很重要。容聯(lián)七陌的智能客服之所以“智能”，和我們采用多Agent模型的產(chǎn)品架構(gòu)，以及客服領(lǐng)域的豐富經(jīng)驗(yàn)密不可分。這種經(jīng)驗(yàn)就包括如何讓大模型理解客戶業(yè)務(wù)場(chǎng)景，如何設(shè)計(jì)功能模塊去解決問(wèn)題，如何讓大模型越用越智能等等，是一種技術(shù)和行業(yè)應(yīng)用的結(jié)合。

我們也看到很多同行在探索智能客服的大模型應(yīng)用，但大模型只是作為某種功能輔助，比如提升會(huì)話小結(jié)的效率、提升訓(xùn)練師的工作效率等，其實(shí)是拿大模型輔助去提升上一代智能客服的效率，沒有從根本上改變上一代智能客服的痛點(diǎn)。這也是為什么我們強(qiáng)調(diào)原生大模型的智能客服，它和上一代智能客服的體驗(yàn)和效率完全不在一個(gè)級(jí)別。

Q：目前智能客服領(lǐng)域都在研究大模型Agent的落地路徑，它的競(jìng)爭(zhēng)壁壘在哪里？容聯(lián)七陌的優(yōu)勢(shì)是什么？

A：容聯(lián)七陌從2023年底就確定了大模型Agent的路徑，算是國(guó)內(nèi)智能客服行業(yè)最早一批確立落地方向的企業(yè)。前面談到了容聯(lián)七陌在多Agent、提示詞工程、功能設(shè)計(jì)等多個(gè)方面的探索，主要體現(xiàn)了產(chǎn)品和技術(shù)的競(jìng)爭(zhēng)力。

例如，容聯(lián)七陌獨(dú)創(chuàng)的Ask Human Help托管模式，就是用大模型機(jī)器人全程接待，告別了直接轉(zhuǎn)人工的模式。

在以往的客服人機(jī)協(xié)同模式中，機(jī)器轉(zhuǎn)人工是能明顯感知到的，而且人工回答完之后沒法再轉(zhuǎn)接給機(jī)器，客戶體驗(yàn)和人工成本都不好。但是有了Ask Human Help托管模式，用戶不再使用點(diǎn)選按鈕的交互，而是直接用自然語(yǔ)言就可以交流，所以用戶感知不到對(duì)面是機(jī)器人在服務(wù)。當(dāng)大模型答不上來(lái)時(shí)，會(huì)轉(zhuǎn)給人工客服，但人工只需要回答轉(zhuǎn)進(jìn)來(lái)的這一條消息，就可以立即再轉(zhuǎn)回給大模型。

在這種轉(zhuǎn)變下，人工客服的工作量從“會(huì)話級(jí)別”下降到“消息級(jí)別”，每個(gè)客戶的會(huì)話服務(wù)時(shí)長(zhǎng)可能從平均10分鐘下降到1分鐘內(nèi)，那么同等數(shù)量下的人工客服就能接待更多的客戶。對(duì)于客戶來(lái)說(shuō)，服務(wù)的體驗(yàn)也更好了，解決問(wèn)題的效率也更高了。無(wú)論對(duì)于企業(yè)還是客戶，在這種模式下都是受益的。

除此之外，容聯(lián)七陌還有很重要的一個(gè)競(jìng)爭(zhēng)優(yōu)勢(shì)，就是我們深耕客服領(lǐng)域已經(jīng)有十年了，在客服解決方案的各個(gè)環(huán)節(jié)做了很多設(shè)計(jì)和優(yōu)化，能夠充分貼合各行業(yè)客戶的客服場(chǎng)景應(yīng)用，比如將客服系統(tǒng)和人力、工單等業(yè)務(wù)系統(tǒng)做了集成。所以容聯(lián)七陌的大模型智能客服Agent解決方案，不僅是單一產(chǎn)品，而是一整套解決方案，涵蓋售前、售中、售后的全部場(chǎng)景。

同時(shí)，容聯(lián)七陌有多年的行業(yè)服務(wù)經(jīng)驗(yàn)，把行業(yè)客戶的痛點(diǎn)、實(shí)施落地踩的坑都摸過(guò)一遍，所以我們?yōu)榭蛻粼O(shè)計(jì)的解決方案能達(dá)到比較好的效果，而且客戶需求設(shè)計(jì)、方案設(shè)計(jì)、實(shí)施、培訓(xùn)、服務(wù)都跟得上。

Q：圍繞智能客服Agent，未來(lái)容聯(lián)七陌還將在哪些方向上進(jìn)行探索？

A：我們將繼續(xù)增強(qiáng)產(chǎn)品的智能性和問(wèn)題解決能力，持續(xù)探索大模型準(zhǔn)確率的提升。同時(shí)，也會(huì)關(guān)注大模型多模態(tài)技術(shù)的發(fā)展，如ASR、TTS、音色克隆等，將大模型的不同技術(shù)應(yīng)用到智能客服產(chǎn)品中去。

在市場(chǎng)應(yīng)用上，目前容聯(lián)七陌智能客服已覆蓋了多個(gè)行業(yè)，未來(lái)期待新一代大模型智能客服能夠應(yīng)用到更廣泛的行業(yè)和場(chǎng)景中，助力更多行業(yè)客戶降本增效，提升客戶服務(wù)和營(yíng)銷體驗(yàn)。

【關(guān)于科技云報(bào)到】企業(yè)級(jí)IT領(lǐng)域Top10新媒體。聚焦云計(jì)算、人工智能、大模型、網(wǎng)絡(luò)安全、大數(shù)據(jù)、區(qū)塊鏈等企業(yè)級(jí)科技領(lǐng)域。原創(chuàng)文章和視頻獲工信部權(quán)威認(rèn)可，是世界人工智能大會(huì)、數(shù)博會(huì)、國(guó)家網(wǎng)安周、可信云大會(huì)與全球云計(jì)算等大型活動(dòng)會(huì)議的官方指定傳播媒體之一。

生成海報(bào)

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個(gè)人觀點(diǎn)，與極客網(wǎng)無(wú)關(guān)。文章僅供讀者參考，并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。