浩鯨科技鐘健松:大模型落地遠(yuǎn)不止最后“一公里”

6月26日消息(焦焦)ChatGPT橫空出世,掀起了AI行業(yè)的發(fā)展熱潮。大模型從嶄露頭角到現(xiàn)在的如日中天,全行業(yè)已然在AI的新時(shí)代中全速前進(jìn),大模型成為驅(qū)動(dòng)創(chuàng)新的焦點(diǎn)之一。在AI帶來(lái)生產(chǎn)力革新與商業(yè)模式升級(jí)浪潮下,作為向科技公司轉(zhuǎn)型的領(lǐng)軍央企,運(yùn)營(yíng)商在AI領(lǐng)域不斷加碼布局,為通信產(chǎn)業(yè)邁入大模型時(shí)代積極領(lǐng)路,構(gòu)建數(shù)智生產(chǎn)力也被被賦予前所未有的重要使命。

在2024年MWC上海展上,作為運(yùn)營(yíng)商的重要合作伙伴,浩鯨科技圍繞“智能時(shí)代,構(gòu)建數(shù)智生產(chǎn)力”為主題,分享在大模型的驅(qū)動(dòng)下,如何賦能運(yùn)營(yíng)商業(yè)務(wù)和運(yùn)營(yíng)管理快速實(shí)現(xiàn)深度智能化,并展示在加速智能化進(jìn)程中的技術(shù)突破和創(chuàng)新應(yīng)用,為運(yùn)營(yíng)商構(gòu)建從智能基礎(chǔ)設(shè)施、大模型平臺(tái)、到創(chuàng)新數(shù)智應(yīng)用落地的全方位支持,攜手運(yùn)營(yíng)商共筑智能化未來(lái)宏圖,加速數(shù)智躍升。

運(yùn)營(yíng)商數(shù)字化建設(shè)成果仍存挑戰(zhàn),亟待解決

在智能化浪潮下,運(yùn)營(yíng)商在推進(jìn)自身轉(zhuǎn)型的同時(shí)積極發(fā)力產(chǎn)業(yè)數(shù)字化建設(shè),據(jù)C114觀察,目前運(yùn)營(yíng)商數(shù)字化轉(zhuǎn)型取得顯著成效。在為用戶提供更快速、更穩(wěn)定的通信網(wǎng)絡(luò)連接的同時(shí),推出更豐富的數(shù)字化服務(wù)和增值服務(wù),并通過(guò)數(shù)據(jù)驅(qū)動(dòng)的運(yùn)營(yíng),更加精準(zhǔn)地滿足最終用戶的個(gè)性化需求,提高數(shù)據(jù)資產(chǎn)的管理利用效率。

浩鯨科技中國(guó)CTO鐘健松在接受C114專訪時(shí)指出,運(yùn)營(yíng)商的數(shù)字化建設(shè)走過(guò)三十年,已取得卓越成效,成為推動(dòng)國(guó)家數(shù)字經(jīng)濟(jì)建設(shè)的領(lǐng)頭羊。但以發(fā)展的視角審視當(dāng)前的數(shù)字化建設(shè)成果,依舊存在一些挑戰(zhàn),亟待智能化手段去解決。

1、生產(chǎn)要素已被大量累積,但價(jià)值發(fā)揮有限

鐘健松認(rèn)為,經(jīng)過(guò)數(shù)十年的的數(shù)字化發(fā)展與積累,運(yùn)營(yíng)商沉淀了海量的數(shù)據(jù),包括資源、網(wǎng)絡(luò)、服務(wù)、客戶、渠道等立體多維數(shù)據(jù)資產(chǎn),堪稱為“寶藏?cái)?shù)據(jù)礦場(chǎng)”?;谶@些數(shù)據(jù),運(yùn)營(yíng)商內(nèi)部構(gòu)建了諸多報(bào)表系統(tǒng)、數(shù)據(jù)分析系統(tǒng),但對(duì)數(shù)據(jù)的提取和分析仍存在諸多動(dòng)態(tài)變化,導(dǎo)致當(dāng)前各下屬公司依然要配備大量取數(shù)人員,以響應(yīng)每月不同維度的看數(shù)要求。

此外,隨著中臺(tái)的建設(shè),運(yùn)營(yíng)商的重點(diǎn)已從功能建設(shè)逐漸轉(zhuǎn)向能力構(gòu)建,能力不斷累積和豐富,并逐步沉淀為企業(yè)的能力資產(chǎn)。盡管能力資產(chǎn)在助力數(shù)字化應(yīng)用建設(shè)過(guò)程中發(fā)揮了一定價(jià)值,但由于能力的可視化、非完全的集約、從能力到應(yīng)用的轉(zhuǎn)化難度等問(wèn)題,制約了能力資產(chǎn)的價(jià)值發(fā)揮。

鐘健松表示,相比數(shù)據(jù)資產(chǎn)和能力資產(chǎn),企業(yè)的知識(shí)資產(chǎn)受重視程度不夠,少量的知識(shí)庫(kù)僅存儲(chǔ)了某些關(guān)于產(chǎn)品營(yíng)銷方面的內(nèi)容,而更需要傳承的例如網(wǎng)絡(luò)運(yùn)維、故障處理、施工操作、方案配置等方面的知識(shí),要么作為規(guī)則被整合到系統(tǒng)中,缺乏迭代更新;要么沉淀在少數(shù)專家的頭腦中,難以復(fù)制和傳承。

2、生產(chǎn)效率盡管在不斷提高,但仍有很大提升空間

當(dāng)前,流程驅(qū)動(dòng)已成為數(shù)字化系統(tǒng)的一個(gè)典型特征,但流程驅(qū)動(dòng)有其受限之處。首先,流程為異步處理,非實(shí)時(shí),可能會(huì)因?yàn)榄h(huán)節(jié)之間的來(lái)回回退導(dǎo)致處理時(shí)間拉長(zhǎng),而企業(yè)的生產(chǎn)運(yùn)營(yíng)則有大量需要實(shí)時(shí)解決問(wèn)題的場(chǎng)景,比如涉及到多方參與的網(wǎng)絡(luò)疑難故障診斷分析,基于流程驅(qū)動(dòng)的派單式的解決方式就不太適用。

其次,在新技術(shù)的推動(dòng)下,自動(dòng)化、智能化的述求在企業(yè)運(yùn)營(yíng)中越來(lái)越強(qiáng)烈,雖然通過(guò)規(guī)則、AI算法、RPA等的引入能夠解決不少問(wèn)題,但目前采取“散點(diǎn)注智”的開發(fā)模式,派生出多種類型的規(guī)則引擎、推薦引擎、調(diào)度引擎等多個(gè)系統(tǒng),開發(fā)周期長(zhǎng)、應(yīng)用面狹窄,管理分散,從而導(dǎo)致需求難以即時(shí)響應(yīng),自智成熟度等級(jí)難以產(chǎn)生質(zhì)的飛躍。

3、數(shù)字化系統(tǒng)林立,使用者陷入系統(tǒng)和功能的海洋

盡管在ITSP的規(guī)劃下,運(yùn)營(yíng)商數(shù)字化系統(tǒng)縱向集約橫向整合,系統(tǒng)數(shù)量已做了大幅收斂,但當(dāng)前系統(tǒng)規(guī)模依然龐大,不同崗位人員需要面對(duì)諸多系統(tǒng)以及功能模塊,在龐雜的系統(tǒng)中尋找對(duì)應(yīng)的功能,費(fèi)時(shí)費(fèi)力,以至于大量已開發(fā)出的功能模塊因不被認(rèn)知而使用率極低。

與此同時(shí),為了應(yīng)對(duì)復(fù)雜場(chǎng)景,數(shù)字化系統(tǒng)往往配備繁瑣的使用界面,使用者需要在各種彈出的窗口、頁(yè)簽中切換,使用門檻高,工作負(fù)荷大。

大模型,助推運(yùn)營(yíng)商向理想藍(lán)圖平滑演進(jìn)

據(jù)C114了解,強(qiáng)大的通用智能能力,催生AI創(chuàng)新應(yīng)用多點(diǎn)開花。國(guó)內(nèi)外均積極、迅速地推進(jìn)大模型訓(xùn)練,千億參數(shù)模型層出不窮,大模型驅(qū)動(dòng)的場(chǎng)景也在逐步落地,但大模型的價(jià)值發(fā)揮并不是想象中的一蹴而就。大模型應(yīng)用在落地過(guò)程需要多方參與,且對(duì)算力、平臺(tái)、算法的要求較高,因此盡管大模型的訓(xùn)練量不斷擴(kuò)大,在不同行業(yè)不同領(lǐng)域也多有應(yīng)用,但應(yīng)用的發(fā)展水平與速度參差不齊,部分領(lǐng)域尚且很難將模型價(jià)值發(fā)揮實(shí)效,推動(dòng)行業(yè)大模型“真正落地”的機(jī)遇與挑戰(zhàn)并存。

鐘健松認(rèn)為,整體而言,大模型依然處于成熟過(guò)程中,技術(shù)演進(jìn)日新月異,還需要克服其在行業(yè)實(shí)際應(yīng)用中的各類技術(shù)缺陷,比如幻覺、算力成本高、知識(shí)實(shí)時(shí)更新差等問(wèn)題。如若貿(mào)然利用大模型重構(gòu)IT系統(tǒng)來(lái)替換現(xiàn)有IT,會(huì)因?yàn)榉磸?fù)折騰消耗巨大的人力物力,帶來(lái)的價(jià)值效果可能也不盡如人意。面對(duì)以上難點(diǎn),需要選擇一條穩(wěn)步、平滑演進(jìn)的路線,通過(guò)先引入大模型增強(qiáng)現(xiàn)有數(shù)字化系統(tǒng)架構(gòu)和能力,再逐步升級(jí)替代到理想藍(lán)圖。

在這條演進(jìn)路線上,一方面需要從系統(tǒng)工程的角度來(lái)提升通用人工智能的準(zhǔn)確性、適應(yīng)性、創(chuàng)造性和效率,另一方面需要結(jié)合運(yùn)營(yíng)商數(shù)字化場(chǎng)景及當(dāng)期架構(gòu)模式,構(gòu)建出增強(qiáng)演進(jìn)的架構(gòu)體系??傮w看來(lái),整個(gè)增強(qiáng)體系可分為2+3+N+1來(lái)分層演進(jìn)。

“2”通過(guò)2個(gè)核心平臺(tái)的引入,增強(qiáng)企業(yè)IT整體架構(gòu)

MAAS平臺(tái),將大模型能力更絲滑地嵌入到企業(yè)數(shù)字化系統(tǒng)中。未來(lái)的頭部企業(yè),很有可能采用1+N的大模型構(gòu)建方式,即在一個(gè)主力大模型的基礎(chǔ)上,還會(huì)根據(jù)不同場(chǎng)景需要,應(yīng)用N個(gè)各有擅長(zhǎng)以及尺寸不同的其它模型。MAAS平臺(tái)將對(duì)接各類不同的大模型,以更安全和更高性價(jià)比的方式向上統(tǒng)一提供模型服務(wù)。同時(shí)為解決大模型生成幻覺問(wèn)題和知識(shí)滯后性問(wèn)題,引入RAG,將非參數(shù)化預(yù)料庫(kù)和參數(shù)模型結(jié)合,解決純參數(shù)化大模型的局限。并對(duì)原始RAG架構(gòu)優(yōu)化,通過(guò)增加意圖識(shí)別、問(wèn)題改寫、查詢擴(kuò)展、結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)動(dòng)態(tài)路由、多路召回、降噪去重等工程化手段大幅提升實(shí)際場(chǎng)景下的知識(shí)服務(wù)能力。

mmRTC平臺(tái),在原有頁(yè)面集成、流程集成、數(shù)據(jù)集成、企業(yè)集成架構(gòu)的基礎(chǔ)上,搭建多模態(tài)的實(shí)時(shí)通信交互平臺(tái),實(shí)現(xiàn)人-人、人-智能體、人-智能體-人、多智能體等多種方式的即時(shí)協(xié)同,充分發(fā)揮智能體在感知、規(guī)劃、記憶、執(zhí)行等方面的能力,面對(duì)復(fù)雜場(chǎng)景,改變傳統(tǒng)異步派單的模式,在人腦和智腦的多維加持下,實(shí)現(xiàn)實(shí)時(shí)分析、精準(zhǔn)診斷、即時(shí)處理,推進(jìn)效率的大幅提升。該平臺(tái)與運(yùn)營(yíng)商的網(wǎng)絡(luò)故障診斷、裝維疑難問(wèn)題處理、復(fù)雜方案營(yíng)銷等場(chǎng)景非常適配。

3通過(guò)3個(gè)工廠的建設(shè),提升數(shù)字化生產(chǎn)效率

知識(shí)工廠:在知識(shí)工廠中訓(xùn)練兩類知識(shí),一類是經(jīng)營(yíng)領(lǐng)域的專業(yè)知識(shí),包括前端營(yíng)銷涉及的產(chǎn)品、渠道、客戶等以及后端運(yùn)維涉及的的網(wǎng)絡(luò)、故障分析等;另一類是數(shù)字化領(lǐng)域的專業(yè)知識(shí),包括IT系統(tǒng)數(shù)據(jù)模型、功能頁(yè)面、集成關(guān)系等。知識(shí)工廠提供高效工具幫助企業(yè)通過(guò)多種形式建立專屬知識(shí)庫(kù),解決知識(shí)分散、信息損失等問(wèn)題,實(shí)現(xiàn)知識(shí)可運(yùn)營(yíng)、可迭代優(yōu)化,基于知識(shí)標(biāo)簽,最終實(shí)現(xiàn)一問(wèn)多答,更好的滿足跨地域、多產(chǎn)品、多客戶類型的豐富的經(jīng)營(yíng)形態(tài)。

智能體工廠:未來(lái)Agent as a Service 或許將逐步取代目前IT架構(gòu)的微服務(wù)模式。在智能體工廠中,將整合目前已形成的海量插件,以低代碼的方式,通過(guò)工作流的可視化開發(fā)形態(tài),將模型、知識(shí)庫(kù)、提示詞、插件工具進(jìn)行鏈?zhǔn)秸?,?gòu)建出面向不同領(lǐng)域、解決不同場(chǎng)景問(wèn)題的智能體。

數(shù)字應(yīng)用工廠:更高效更低門檻構(gòu)建數(shù)字化應(yīng)用是IT工作者的追求??梢灶A(yù)見,以大模型來(lái)驅(qū)動(dòng),識(shí)別需求意圖,搭載低代碼組裝式開發(fā),數(shù)字應(yīng)用生產(chǎn)效率將倍增。應(yīng)用開發(fā)的同時(shí)數(shù)字資產(chǎn)不斷豐富,又進(jìn)一步提升數(shù)字應(yīng)用的開發(fā)效率。運(yùn)營(yíng)商推進(jìn)政企市場(chǎng),智能數(shù)字工廠將為其如虎添翼。

“N”通過(guò)N個(gè)場(chǎng)景的智慧化,推進(jìn)全面智能的落地

將大模型的理解、生成、邏輯、記憶四大能力結(jié)合運(yùn)營(yíng)商的場(chǎng)景,浩鯨科技已實(shí)現(xiàn)如下諸多大類智慧化應(yīng)用,全面大幅提升數(shù)字化智能水平。

生成類場(chǎng)景:包括營(yíng)銷方案、禮包策劃、營(yíng)銷海報(bào)等應(yīng)用;

診斷類場(chǎng)景:包括家寬綜調(diào)助手、資費(fèi)爭(zhēng)議診斷等應(yīng)用;其中家寬綜調(diào)助手面向裝維和綜調(diào)人員,提供自然語(yǔ)言順暢交互、問(wèn)題智能精準(zhǔn)診斷以及即時(shí)處理等智能化支撐;

助理類場(chǎng)景:包括CRM營(yíng)業(yè)助手、資源助手等應(yīng)用;

分析類場(chǎng)景:推出chatBI分析助手,提供海量報(bào)表一問(wèn)直達(dá)、智能按需問(wèn)數(shù)、隨心深度探索數(shù)據(jù)等智能能力

稽核類場(chǎng)景:包括資費(fèi)稽核、合同稽核等應(yīng)用;

問(wèn)答類場(chǎng)景:基于統(tǒng)一框架快速高效搭建各類場(chǎng)景的問(wèn)答機(jī)器人,基于浩鯨特有技術(shù)既保障答案的精準(zhǔn)度,又保證完整度,同時(shí)還支持一問(wèn)多答的跨地域跨產(chǎn)品的特有場(chǎng)景應(yīng)用。

代碼類場(chǎng)景:通過(guò)代碼大模型幫助軟件工程師編碼時(shí)實(shí)現(xiàn)代碼理解、自動(dòng)補(bǔ)全,提升軟件開發(fā)人員的編碼效率和代碼質(zhì)量。

“1”通過(guò)1個(gè)“無(wú)系統(tǒng)”的打造,實(shí)現(xiàn)嶄新的交互形態(tài)

“無(wú)系統(tǒng)”一方面將企業(yè)數(shù)字化系統(tǒng)的數(shù)據(jù)、功能界面、使用操作、業(yè)務(wù)知識(shí)等訓(xùn)練給大模型,另一方面構(gòu)建統(tǒng)一入口,在該入口以自然語(yǔ)言的方式調(diào)用功能模塊、完成功能模塊的操作(包括跨系統(tǒng)的鏈?zhǔn)讲僮鳎⒉榭礄?quán)限內(nèi)的數(shù)據(jù)(包括跨系統(tǒng)的整合數(shù)據(jù))等。

對(duì)于使用者而言,不再需要關(guān)注端到端的流程穿越具體在哪個(gè)系統(tǒng)和菜單定位,只需要表達(dá)自己的意圖,通過(guò)統(tǒng)一入口,由智能助手實(shí)現(xiàn)一步直達(dá)。此入口可掛載在現(xiàn)有任一數(shù)字化系統(tǒng)上,即時(shí)呼出,隨地調(diào)用。

運(yùn)營(yíng)商深入大模型應(yīng)用腹地,浩鯨科技將做大模型價(jià)值釋放者

從整個(gè)電信行業(yè)來(lái)看,2023年以來(lái),三大運(yùn)營(yíng)商相繼推出自己的基礎(chǔ)大模型、行業(yè)大模型和大模型應(yīng)用工具,如今運(yùn)營(yíng)商更是深入大模型應(yīng)用腹地,不斷落子。

據(jù)C114了解,中國(guó)移動(dòng)推出APP的AI智能助理“靈犀”,深度嵌入到最新升級(jí)的中國(guó)移動(dòng)APP V10版本中,從用戶使用需求出發(fā),依托大模型的內(nèi)容生成能力改善用戶體驗(yàn)。而中國(guó)電信,前不久一口氣發(fā)布了12個(gè)垂類行業(yè)大模型,加強(qiáng)在各個(gè)領(lǐng)域的深度應(yīng)用。中國(guó)聯(lián)通也發(fā)布了元景“1+1+M”大模型體系,更在5月進(jìn)一步發(fā)布中國(guó)聯(lián)通元景大模型MaaS平臺(tái),為企業(yè)行業(yè)向MaaS服務(wù)。

總體來(lái)看,三大運(yùn)營(yíng)商對(duì)大模型,無(wú)論是反應(yīng)速度、研發(fā)深度,還是覆蓋廣度,都格外突出。對(duì)運(yùn)營(yíng)商而言,大模型提供了一個(gè)契機(jī),讓運(yùn)營(yíng)商不僅僅作為通信網(wǎng)絡(luò)的基礎(chǔ)設(shè)施提供商,還可以整合自身在全國(guó)一體化算力網(wǎng)絡(luò)、云資源等技術(shù)方面和政企市場(chǎng)、消費(fèi)者市場(chǎng)等客戶方面的多種優(yōu)勢(shì),更深度地參與到產(chǎn)業(yè)智能化升級(jí)與數(shù)字化轉(zhuǎn)型中,重構(gòu)自身在數(shù)字化業(yè)務(wù)中的競(jìng)爭(zhēng)優(yōu)勢(shì)。

正如采訪的最后,鐘健松表示,大模型企業(yè)落地遠(yuǎn)不止“一公里”, 涉及端到端全程各環(huán)節(jié)配套,包括算力資源、大模型切換、私域知識(shí)高效導(dǎo)入、智能體構(gòu)建、copilot與現(xiàn)有系統(tǒng)融合,以及每個(gè)層面特有的推進(jìn)方法。在智能時(shí)代,未來(lái)的IT系統(tǒng)將有著新的架構(gòu)、運(yùn)營(yíng)模式、研發(fā)范式以及交互形態(tài),而作為運(yùn)營(yíng)商的重要且長(zhǎng)期合作伙伴,浩鯨科技不做大模型的生產(chǎn)者,但會(huì)基于自身對(duì)行業(yè)的深度理解,以及通過(guò)體系化的工程手段,致力做大模型真實(shí)價(jià)值釋放者和使能者,助力運(yùn)營(yíng)商全面推進(jìn)AI+戰(zhàn)略落地,加速AI融入百業(yè),加速數(shù)智新增長(zhǎng)。

極客網(wǎng)企業(yè)會(huì)員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2024-06-26
浩鯨科技鐘健松:大模型落地遠(yuǎn)不止最后“一公里”
浩鯨科技鐘健松:大模型落地遠(yuǎn)不止最后“一公里”,C114訊 6月26日消息(焦焦)ChatGPT橫空出世,掀起了AI行業(yè)的發(fā)展熱潮。大模型從嶄露頭角

長(zhǎng)按掃碼 閱讀全文