科技云報(bào)道原創(chuàng)。
“沒(méi)有應(yīng)用,光有一個(gè)基礎(chǔ)模型,不管是開(kāi)源還是閉源,一文不值?!痹?024世界人工智能大會(huì)(WAIC 2024)現(xiàn)場(chǎng),百度創(chuàng)始人、董事長(zhǎng)兼首席執(zhí)行官李彥宏直言。
國(guó)產(chǎn)大模型的種類越發(fā)豐富,從文生文/圖模型到文生視頻模型、端側(cè)模型等讓人眼花繚亂。同時(shí),行業(yè)所關(guān)心的不再僅是參數(shù)規(guī)模、是否開(kāi)源等技術(shù)問(wèn)題,大模型的落地應(yīng)用正成為被探討最多的話題。
作為WAIC 2024重要的配套會(huì)議之一,7月6日,以“數(shù)智聚合 產(chǎn)業(yè)向上”為主題的容聯(lián)云生成式應(yīng)用與大模型商業(yè)化實(shí)踐論壇在上海舉行。論壇聚焦大模型的行業(yè)實(shí)踐,圍繞大模型在落地過(guò)程中面臨的挑戰(zhàn)、關(guān)鍵路徑、場(chǎng)景應(yīng)用,以及如何為業(yè)務(wù)賦能等角度,邀請(qǐng)企業(yè)大模型技術(shù)負(fù)責(zé)人、海外專家學(xué)者和行業(yè)人士展開(kāi)交流探討與觀點(diǎn)分享,以期為大模型的行業(yè)應(yīng)用提供路徑指引與經(jīng)驗(yàn)借鑒。
專業(yè)智能體大模型商用的有效路徑
在經(jīng)歷了“百模大戰(zhàn)”的錘煉之后,企業(yè)們的技術(shù)能力正變得越發(fā)強(qiáng)勁,大模型開(kāi)始走向商業(yè)化落地。今年以來(lái),國(guó)內(nèi)大模型項(xiàng)目中標(biāo)公告已發(fā)布超230個(gè),遠(yuǎn)超2023年全年水平。中國(guó)10億參數(shù)規(guī)模以上的大模型數(shù)量已超100個(gè),行業(yè)大模型深度賦能電子信息、醫(yī)療、交通等領(lǐng)域,形成上百種應(yīng)用模式,賦能千行百業(yè)。
業(yè)界的共識(shí)是,隨著技術(shù)迭代曲線放緩、基礎(chǔ)大模型賽道的競(jìng)爭(zhēng)格局企穩(wěn),生成式AI市場(chǎng)的性質(zhì)正在發(fā)生變化,更多的創(chuàng)新和價(jià)值創(chuàng)造正在向應(yīng)用層匯聚。從“百模大戰(zhàn)”到“降價(jià)潮”,從“卷技術(shù)”到“卷價(jià)格”再到“卷應(yīng)用”,真正可行的商業(yè)模式究竟幾何?螞蟻、字節(jié)、百度、智譜以及初創(chuàng)企業(yè)已經(jīng)在走各自不同的路了。可以肯定的是,當(dāng)大模型正成為各行業(yè)“標(biāo)配”,誰(shuí)能夠率先將大模型商業(yè)化,誰(shuí)就有機(jī)會(huì)喝到“頭啖湯”。
論壇上,容聯(lián)云產(chǎn)業(yè)數(shù)字云VP兼諸葛智能創(chuàng)始人孔淼發(fā)表了《企業(yè)營(yíng)銷服場(chǎng)景重塑》主題演講??醉翟诟袊@于新技術(shù)帶來(lái)突破的同時(shí),也看到了更多問(wèn)題,比如真實(shí)溝通場(chǎng)景的幻覺(jué)控制、大模型的算力成本控制,以及新技術(shù)融入到企業(yè)業(yè)務(wù)流程里面的改造和管理成本。他認(rèn)為,大模型很難通過(guò)一個(gè)技術(shù)去顛覆企業(yè)內(nèi)部的客服和營(yíng)銷的一系列溝通場(chǎng)景,更重要的是如何用新技術(shù)能力做好應(yīng)用落地,幫助企業(yè)真正實(shí)現(xiàn)價(jià)值提升。
為此,容聯(lián)云在去年12月就推出了容犀Copilot,通過(guò)大模型與小模型相結(jié)合的能力來(lái)解決幻覺(jué)問(wèn)題,并有效控制算力成本,并融合知識(shí)流轉(zhuǎn)、話術(shù)挖掘、會(huì)話洞察等多方面的業(yè)務(wù)能力,根據(jù)企業(yè)與客戶產(chǎn)生的會(huì)話數(shù)據(jù)與業(yè)務(wù)數(shù)據(jù)、產(chǎn)出金牌溝通策略。
隨著容犀Copilot在各行業(yè)落地,以及與企業(yè)客戶進(jìn)行更多的聯(lián)合探索之后,容聯(lián)云對(duì)業(yè)務(wù)場(chǎng)景進(jìn)一步深化與細(xì)化,并結(jié)合日趨成熟的智能體技術(shù),對(duì)容犀智能大模型應(yīng)用進(jìn)行全新升級(jí)。這也是容聯(lián)云在大模型應(yīng)用領(lǐng)域的最新成果。
據(jù)孔淼介紹,客服領(lǐng)域一直是智能化應(yīng)用比較早的場(chǎng)景之一。2015年開(kāi)始,客服行業(yè)從全渠道客服升級(jí)為智能化客服。在大語(yǔ)言模型出現(xiàn)之前,想要培養(yǎng)出一名合格的客服,大多數(shù)情況下需要極高的知識(shí)管理成本和訓(xùn)練師成本,要先將一些復(fù)雜的業(yè)務(wù)場(chǎng)景轉(zhuǎn)化為任務(wù),之后通過(guò)這些任務(wù),再上線轉(zhuǎn)化成應(yīng)用能力。而實(shí)際上這種開(kāi)放式的業(yè)務(wù)場(chǎng)景,很難做到包容和兼容。
容聯(lián)云將容犀Copilot進(jìn)一步升級(jí),形成容犀KC大模型知識(shí)助理(Knowledge Copilot)、容犀IA大模型洞察代理(Insight Agent)、容犀CA大模型陪練代理(Coach Agent)、容犀AC大模型坐席助理(Agent Copilot)和容犀VA大模型坐席代理(Virtual Agent)五位一體的智能客服解決方案,覆蓋了從營(yíng)銷、銷售、服務(wù)到企業(yè)內(nèi)部管理的核心場(chǎng)景,為企業(yè)打造全面、高效的營(yíng)銷服智能化生態(tài)系統(tǒng)。
知識(shí)庫(kù)是客服面向客戶服務(wù)的最基礎(chǔ)素材,包含關(guān)于產(chǎn)品的FAQ、操作手冊(cè)、解決方案、故障排除指南等內(nèi)容,這個(gè)知識(shí)庫(kù)應(yīng)該始終是最新、最準(zhǔn)確、且易于檢索的。在實(shí)際落地過(guò)程中,此類知識(shí)庫(kù)的冷啟動(dòng)成本很高,只能通過(guò)輸入大量知識(shí)文檔進(jìn)行構(gòu)建??头趹?yīng)用過(guò)程中依靠關(guān)鍵字和意圖的方式,會(huì)遭遇檢索慢、準(zhǔn)確率低等痛點(diǎn),其次大量繁雜的業(yè)務(wù)知識(shí)導(dǎo)致其后期優(yōu)化很難,更新迭代的速度很慢。
容犀KC大模型知識(shí)助理融合了向量庫(kù)、RAG、數(shù)據(jù)飛輪等技術(shù),將行業(yè)知識(shí)進(jìn)行向量化,同時(shí)大模型能夠幫助客服快速理解用戶上下文,并快速定位文檔知識(shí)內(nèi)容并生成總結(jié),通過(guò)對(duì)知識(shí)庫(kù)自動(dòng)拆解片段,進(jìn)行語(yǔ)義切分和QA抽取,進(jìn)一步提升知識(shí)應(yīng)用效率,全面降低知識(shí)庫(kù)構(gòu)建成本。
客服與客戶溝通的每一次都會(huì)形成寶貴的數(shù)據(jù)資產(chǎn),會(huì)話數(shù)據(jù)揭示了客需、客訴、商機(jī),反映了服務(wù)的不足與資源浪費(fèi)。容犀IA大模型洞察代理融合官網(wǎng)、APP、公眾號(hào)、小程序、400電話等各類場(chǎng)景的會(huì)話數(shù)據(jù),并通過(guò)Prompt定義業(yè)務(wù)目標(biāo)訓(xùn)練赤兔大模型,幫助客服對(duì)會(huì)話內(nèi)容進(jìn)行理解,挖掘客戶潛在需求點(diǎn),同時(shí)對(duì)需求進(jìn)行分類和統(tǒng)計(jì),實(shí)現(xiàn)客戶需求的自主洞察。
好的客服能夠提升客戶對(duì)企業(yè)的好感,成為企業(yè)無(wú)形的競(jìng)爭(zhēng)力。行業(yè)內(nèi)目前普遍存在一些業(yè)務(wù)培訓(xùn)挑戰(zhàn),比如通過(guò)陪練課件、學(xué)習(xí)任務(wù)、考試評(píng)分等傳統(tǒng)方式導(dǎo)致訓(xùn)練千篇一律,重復(fù)性學(xué)習(xí)無(wú)法實(shí)現(xiàn)能力的高效輸出。
容犀CA大模型陪練代理運(yùn)用大模型能力,從海量的會(huì)話語(yǔ)料中提煉真實(shí)場(chǎng)景的陪練材料,根據(jù)坐席日常的會(huì)話情況制定對(duì)練任務(wù),同時(shí)可以基于文檔材料智能化輸出考試試題,降低出題成本及難度,此外還能根據(jù)坐席學(xué)習(xí)、對(duì)練、考試及日常溝通情況,構(gòu)建坐席能力畫(huà)像,對(duì)培訓(xùn)效果進(jìn)行量化評(píng)估,實(shí)現(xiàn)客戶陪練環(huán)節(jié)的降本增效。
傳統(tǒng)客服的人工坐席模式面臨著服務(wù)話術(shù)與標(biāo)準(zhǔn)不統(tǒng)一,會(huì)話質(zhì)量及服務(wù)難監(jiān)控難追蹤、人工輸入工單、話后時(shí)間長(zhǎng)等痛點(diǎn),不僅降低工作效率,還容易引發(fā)客服人員的疲勞和情緒壓力。
容犀AC大模型坐席助理利用大模型基于語(yǔ)義理解、立場(chǎng)轉(zhuǎn)變、情緒變化從海量錄音、會(huì)話中挖掘最優(yōu)話術(shù)及策略,兼顧話術(shù)“質(zhì)”與“量”,同時(shí)可以對(duì)坐席溝通中的情緒、語(yǔ)速、辱罵行為、違規(guī)行為、搶插話、流程等進(jìn)行實(shí)時(shí)監(jiān)控和預(yù)警提醒,還能為客服實(shí)時(shí)提取工單內(nèi)容,理解上下文做出會(huì)話小結(jié),縮短話后時(shí)間,在提升服務(wù)質(zhì)量和效率的同時(shí),也全面改善了用戶體驗(yàn)和感受。
圍繞傳統(tǒng)坐席代理出現(xiàn)的服務(wù)響應(yīng)慢、人力成本高,以及機(jī)器人坐席的答非所問(wèn)、回復(fù)千篇一律、語(yǔ)義理解不準(zhǔn)確等問(wèn)題,容犀VA大模型坐席代理將大模型用于優(yōu)化任務(wù)流程和語(yǔ)義識(shí)別之中,通過(guò)大模型洞察提煉會(huì)話流程,并能準(zhǔn)確理解用戶上下文,根據(jù)客戶問(wèn)題精準(zhǔn)匹配答案,同時(shí)還能夠智能識(shí)別客戶需求,并引導(dǎo)潛在客戶留資跟進(jìn)。
從對(duì)業(yè)務(wù)的賦能角度看,該五大應(yīng)用可以被視為垂直業(yè)務(wù)領(lǐng)域的專業(yè)智能體,為企業(yè)提供了從構(gòu)建知識(shí)庫(kù)到多模態(tài)交互能力、企業(yè)級(jí)流程協(xié)同、智能知識(shí)管理、個(gè)性化學(xué)習(xí)與陪練、會(huì)話洞察與營(yíng)銷策略推薦、智能坐席代理等核心環(huán)節(jié)的智能化閉環(huán),企業(yè)能夠?qū)崿F(xiàn)更高效的客戶溝通、更精準(zhǔn)的客戶洞察和更優(yōu)化的服務(wù)流程,在根本上促進(jìn)了企業(yè)營(yíng)銷效率、運(yùn)營(yíng)效率、服務(wù)質(zhì)量的多重飛躍。
容聯(lián)云大模型產(chǎn)品負(fù)責(zé)人唐興才結(jié)合保險(xiǎn)客戶服務(wù)、制造業(yè)上門(mén)維修工單、壽險(xiǎn)線下轉(zhuǎn)線上服務(wù)、銀行柜臺(tái)綜合服務(wù)四大場(chǎng)景,從技術(shù)可行性和應(yīng)用價(jià)值兩個(gè)維度進(jìn)行分享。
唐興才表示,保險(xiǎn)客戶服務(wù)之前大多圍繞話務(wù)進(jìn)行分析,比如打了多少電話、打了多少時(shí)長(zhǎng),但類似潛在需求、客戶投訴等具有價(jià)值的內(nèi)容無(wú)法被有效挖掘。產(chǎn)生這些問(wèn)題的原因一個(gè)是對(duì)話語(yǔ)音量大,另一個(gè)是客服總結(jié)難以標(biāo)準(zhǔn)化,無(wú)法精準(zhǔn)高效進(jìn)行提煉。容聯(lián)云改變了原有人工聽(tīng)錄音抽檢和話務(wù)統(tǒng)計(jì)報(bào)表的模式,通過(guò)大模型讓會(huì)話數(shù)據(jù)發(fā)揮決策依據(jù),實(shí)現(xiàn)了數(shù)據(jù)洞察、發(fā)現(xiàn)咨詢熱點(diǎn)、挖掘產(chǎn)品投訴點(diǎn)等多種效果。
制造業(yè)上門(mén)維修場(chǎng)景下,經(jīng)常會(huì)遇到檢修師傅分布廣、培訓(xùn)難、工單內(nèi)容口語(yǔ)化、工單客服人工分類,流轉(zhuǎn)慢、預(yù)警不及時(shí),易造成批量投訴等情況。容聯(lián)云基于大模型語(yǔ)義上下文提取工單故障,并在大模型的洞察能力上設(shè)定了提取標(biāo)簽的能力,提供工單的分類或分撿預(yù)警策略,將準(zhǔn)確率從40%提升到80%左右,將預(yù)警周期從周提升到天的級(jí)別,避免了客戶的批量客訴。
隨著壽險(xiǎn)線上業(yè)務(wù)的增長(zhǎng),針對(duì)客服自動(dòng)化率低、依賴人力,成本增長(zhǎng)快等痛點(diǎn),容聯(lián)云通過(guò)大模型洞察客戶服務(wù)記錄,從人工客服流程中提取服務(wù)流程,比如證件信息變更、實(shí)名認(rèn)證、聯(lián)系方式變更、保單貸款、保單還款等,以此為基礎(chǔ)構(gòu)建智能化服務(wù)助理,從而找到客戶真正需要的服務(wù)流程,并基于語(yǔ)義理解,很好地理解客戶需求,響應(yīng)保單查詢服務(wù),實(shí)現(xiàn)千人千面的個(gè)性化服務(wù)。
對(duì)于銀行柜臺(tái)綜合服務(wù),相關(guān)業(yè)務(wù)和政策復(fù)雜多樣,且都面臨有效期的問(wèn)題,柜臺(tái)服務(wù)人員靠自身記憶無(wú)法滿足客戶較高的服務(wù)要求,而咨詢老員工或總行業(yè)務(wù)人員往往需要的時(shí)間較長(zhǎng),無(wú)法做到及時(shí)響應(yīng)。容聯(lián)云利用大模型將知識(shí)問(wèn)答助理嵌入進(jìn)客服系統(tǒng),客服人員可以在與客戶對(duì)話過(guò)程中,進(jìn)行劃詞檢索,同時(shí)基于語(yǔ)義全文檔檢索知識(shí),答案可溯源,提升辦理貸款業(yè)務(wù)效率。
小切口大縱深專業(yè)化、場(chǎng)景化、行業(yè)化
大模型商業(yè)化應(yīng)用的核心在于能否真正解決用戶的問(wèn)題。
沿著這一邏輯,大模型一個(gè)最為前景的應(yīng)用場(chǎng)景,就是垂直領(lǐng)域?qū)I(yè)服務(wù)。越是復(fù)雜的問(wèn)題,越是專業(yè)的領(lǐng)域,越能孕育出更具價(jià)值的商業(yè)化應(yīng)用。最典型者如醫(yī)療、金融等行業(yè)。
中國(guó)蓬勃發(fā)展的移動(dòng)互聯(lián)網(wǎng)為大模型行業(yè)提供了豐富而復(fù)雜的應(yīng)用場(chǎng)景,以醫(yī)療和金融為代表的高專業(yè)度、高壁壘行業(yè),雖然已經(jīng)初步實(shí)現(xiàn)數(shù)字化或線上化,但在大模型時(shí)代,誰(shuí)能深刻改造這些場(chǎng)景,破解更復(fù)雜的問(wèn)題,誰(shuí)就能抓住發(fā)展的先機(jī)。
“企業(yè)希望大模型實(shí)現(xiàn)集團(tuán)級(jí)賦能但難尋切入點(diǎn),建議將智能客服作為大模型落地之路的第一站?!痹诓痪们敖Y(jié)束的中關(guān)村論壇上,北京市科委發(fā)布《北京市人工智能大模型行業(yè)應(yīng)用分析報(bào)告》時(shí),在大屏幕上特別標(biāo)出了這一句話。
為何客服成了大模型落地的第一站?大模型在理解用戶提問(wèn)、連續(xù)且24小時(shí)回答用戶問(wèn)題等方面確實(shí)能夠帶來(lái)不小的能力提升,雖然距離真人尚有差距,但算上成本賬,大模型已然“可用”。
不過(guò),如在網(wǎng)購(gòu)場(chǎng)景,AI客服雖然在對(duì)話上相比以往更加“絲滑”,顯得更有情商,但也會(huì)出現(xiàn)答非所問(wèn)的情況。在不少?gòu)臉I(yè)者看來(lái),雖然AI客服可以降低成本,但若想“更進(jìn)一步”,從可用變?yōu)楹糜?,并在更多?chǎng)景發(fā)光發(fā)熱,大模型還需要進(jìn)一步的升級(jí)。
實(shí)際上,早在大語(yǔ)言模型技術(shù)出現(xiàn)之前,AI就已經(jīng)被廣泛用于客服領(lǐng)域。原來(lái)做AI,是靠定義一堆任務(wù),但銷售服務(wù)過(guò)程中很多地方想不到客戶以什么樣的方式問(wèn),如何打動(dòng)客戶,這都是完全開(kāi)放的業(yè)務(wù)場(chǎng)景,原來(lái)的技術(shù)就局限了。大模型出來(lái)后,恰巧可以通過(guò)對(duì)于語(yǔ)言的能力,包括有初步的AGI的這種理解推理的能力,解決了場(chǎng)景泛化問(wèn)題。
《北京市人工智能大模型行業(yè)應(yīng)用分析報(bào)告》認(rèn)為,在大模型技術(shù)應(yīng)用薄弱的行業(yè)內(nèi)可優(yōu)先推廣智能客服場(chǎng)景,從需求側(cè)講,行業(yè)內(nèi)企業(yè)可以直觀地體驗(yàn)到大模型帶來(lái)的便捷服務(wù),增強(qiáng)企業(yè)內(nèi)的群體認(rèn)同,為后續(xù)推動(dòng)大模型在全產(chǎn)業(yè)鏈的應(yīng)用落地減小內(nèi)部阻力;從技術(shù)側(cè)講,智能客服應(yīng)用場(chǎng)景屬于大模型的通用場(chǎng)景之一,相對(duì)技術(shù)難度較小,且可充分發(fā)揮大模型技術(shù)優(yōu)勢(shì),有助于大模型快速落地。
盡管關(guān)于大模型商業(yè)模式的討論尚顯早期,但大模型的商業(yè)化應(yīng)用,尤其是專業(yè)智能體,蘊(yùn)藏著巨大的潛力。通過(guò)將大模型與各專業(yè)領(lǐng)域深度融合,圍繞每一個(gè)細(xì)分小場(chǎng)景形成不同的解決方案,解決用戶的實(shí)際問(wèn)題,這是大模型的中國(guó)機(jī)遇,同時(shí)超大市場(chǎng)規(guī)模和海量需求,也將充分大模型的商業(yè)價(jià)值,為大模型的持續(xù)進(jìn)化找到一條切實(shí)可行的路徑。
免責(zé)聲明:此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章,所有文字和圖片版權(quán)歸作者所有,且僅代表作者個(gè)人觀點(diǎn),與極客網(wǎng)無(wú)關(guān)。文章僅供讀者參考,并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱:editor@fromgeek.com。
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長(zhǎng)
- 騰訊隱身,令人生畏
- 迪卡儂的價(jià)格、lululemon的品質(zhì),平替正成為年輕消費(fèi)者的心頭好
- 三場(chǎng)與AI有關(guān)的死亡
- 100億美元史上最大融資的背后,國(guó)內(nèi)外巨頭齊瞄準(zhǔn)Data+AI
- 有一種羨慕叫“別人家的年終獎(jiǎng)”:京東采銷平均23薪,全網(wǎng)熱議“人的價(jià)值”
- 行業(yè)首個(gè)“人機(jī)大戰(zhàn)”對(duì)壘!AI翻譯已媲美人工
- 蘋(píng)果開(kāi)啟年終大促,降價(jià)1200元,被國(guó)產(chǎn)手機(jī)嚇怕了?
- 1999 元起,OPPO A5 Pro 超防水、超抗摔、超耐用
- 長(zhǎng)三角,如何把數(shù)據(jù)要素變成新長(zhǎng)江?
- 大模型,在內(nèi)卷中尋找出口
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。