卷完參數(shù)卷應(yīng)用,大模型落地有眉目了?

科技云報(bào)道原創(chuàng)。

國(guó)內(nèi)大模型戰(zhàn)場(chǎng)的比拼正在進(jìn)入新的階段。

隨著產(chǎn)業(yè)界對(duì)模型落地的態(tài)度逐漸回歸理性,企業(yè)客戶的認(rèn)知從原來(lái)的“覺得大模型什么都能做”的階段,已經(jīng)收斂到“大模型能夠給自身業(yè)務(wù)帶來(lái)什么價(jià)值上了”。

2023 年下半年,不少企業(yè)將目光鎖定在行業(yè)模型上。如何降低大模型使用門檻,讓大模型真正在行業(yè)里用起來(lái),是業(yè)內(nèi)普遍關(guān)注的焦點(diǎn)。

由此,國(guó)內(nèi)廠商在大模型上的認(rèn)知也在逐步統(tǒng)一——百度創(chuàng)始人李彥宏認(rèn)為“卷大模型沒(méi)有意義,卷應(yīng)用機(jī)會(huì)更大”;騰訊高管湯道生表示“大模型只是開端,行業(yè)應(yīng)用才是未來(lái)”;華為云CEO張平安明確大模型“為行業(yè)而生,聚焦B端行業(yè)客戶”,更直言盤古大模型“沒(méi)時(shí)間作詩(shī)、沒(méi)時(shí)間聊天”。

這也意味著,更多大模型廠商將開始卷應(yīng)用,這會(huì)是今年競(jìng)爭(zhēng)最為激烈的板塊之一。

大模型行業(yè)落地渴望 “開箱即用”

過(guò)去半年,大模型To B的落地應(yīng)用摸索已經(jīng)度過(guò)嘗鮮期。

對(duì)于企業(yè)而言,他們希望更快使用上大模型,在市場(chǎng)競(jìng)爭(zhēng)中獲得優(yōu)勢(shì)。但大模型的技術(shù)門檻很高,因此企業(yè)并不會(huì)從頭開始訓(xùn)練自己的基礎(chǔ)大模型,更多是基于某個(gè)成熟的大模型做二次開發(fā)。

然而,想借用好現(xiàn)有的通用大模型,企業(yè)仍面臨著三大難題:

首先,各類企業(yè)的場(chǎng)景需求、復(fù)雜程度、智能化程度千差萬(wàn)別,大模型能力邊界與企業(yè)的場(chǎng)景需求如何快速、準(zhǔn)確匹配;

其次,從模型到應(yīng)用中間還需要諸多技術(shù)橋梁,諸如SFT、RAG、LangChain、Agent等技術(shù),如何與大模型有機(jī)組合達(dá)成最優(yōu)解;

第三,企業(yè)過(guò)去積累了大量IT設(shè)施、軟件、企業(yè)數(shù)據(jù)、業(yè)務(wù)流程,如何讓大模型與現(xiàn)有設(shè)施結(jié)合的情況下,保障企業(yè)數(shù)據(jù)信息安全。

換句話說(shuō),企業(yè)無(wú)論是基于開源或閉源的通用大模型來(lái)做行業(yè)化落地,都遠(yuǎn)沒(méi)有到達(dá)開箱即用的程度。

不過(guò)這也成為大模型廠商在競(jìng)爭(zhēng)中突圍的方向,除了要在底層技術(shù)上繼續(xù)夯實(shí)外,補(bǔ)足行業(yè)Know-how和成功經(jīng)驗(yàn)也是重中之重。

在百度和阿里的發(fā)展經(jīng)驗(yàn)中,似乎可以給大模型行業(yè)一些啟示。

其中,百度用搭建行業(yè)模型、垂直場(chǎng)景模型和應(yīng)用的方式賦能具體行業(yè)。

2023年3月,百度智能云推出千帆大模型平臺(tái),從算力、模型、到應(yīng)用層層結(jié)合,為企業(yè)提供一整套大模型開發(fā)工具。

一年后,基于一線經(jīng)驗(yàn)積累和實(shí)戰(zhàn)反饋,百度智能云抽取出“研、產(chǎn)、供、銷、服”環(huán)節(jié)中的典型場(chǎng)景,于近日推出了5款全新模型和7款應(yīng)用產(chǎn)品,來(lái)解決企業(yè)用好大模型的“三大難題”。

以此次發(fā)布的國(guó)內(nèi)首款大模型全面重構(gòu)的智能客服——百度智能云客悅為例,相比傳統(tǒng)客服,客悅可結(jié)合大模型的理解、推理、記憶能力,實(shí)現(xiàn)更友好的對(duì)話、更高效的運(yùn)營(yíng)。

比如,當(dāng)用戶提問(wèn)“我的車總有吱吱吱的聲音”,傳統(tǒng)客服無(wú)法理解“吱吱吱”這種口語(yǔ)化的表達(dá)。

而客悅在大模型的加持下,會(huì)繼續(xù)追問(wèn)用戶該問(wèn)題持續(xù)的時(shí)間和頻次,并通過(guò)推理反饋用戶,可能是皮帶老化或者張緊輪松動(dòng)導(dǎo)致,建議到店檢查。

若用戶反饋沒(méi)時(shí)間檢查,客悅還會(huì)基于自身知識(shí)庫(kù),提醒不檢修可能導(dǎo)致車輛失去動(dòng)力、長(zhǎng)期會(huì)引起發(fā)動(dòng)機(jī)故障等問(wèn)題,引起用戶重視,守護(hù)行車安全。目前,用戶問(wèn)題自助解決率已超過(guò)90%。

在運(yùn)營(yíng)效率方面,上一代的傳統(tǒng)智能客服進(jìn)行業(yè)務(wù)辦理、知識(shí)咨詢、閑聊等能力,需要花費(fèi)的人效約100人/天,而客悅僅需約15.5人/天,大模型客服運(yùn)營(yíng)效率提升6倍。

目前為止,百度智能云已經(jīng)布局了電力、汽車、金融、政務(wù)等十余個(gè)行業(yè)大模型,并取得了不錯(cuò)的效果,客戶中也出現(xiàn)了國(guó)家電網(wǎng)、浦發(fā)銀行、泰康、吉利等知名企業(yè)。

相比之下,阿里采用了另一套邏輯:賦能于內(nèi)部已有應(yīng)用和服務(wù),再技術(shù)外溢至行業(yè)客戶。

除已經(jīng)發(fā)布“通義千問(wèn)”大模型外,夸克也發(fā)布了自研大模型,應(yīng)用于通用搜索、醫(yī)療健康等場(chǎng)景;后加之內(nèi)部推行“云釘一體”,作為辦公一體化平臺(tái),釘釘上線AI魔法棒,推出17項(xiàng)與AI相關(guān)服務(wù),也為通義千問(wèn)大模型助力頗多。

同時(shí),阿里也提供了不少類似于Anyone fit類型的圖像模型解決方案,其工具十分貼合電商需求場(chǎng)景。

因在電商、物流層面的深厚積累,讓阿里擁有了對(duì)不同領(lǐng)域的行業(yè)特點(diǎn)、業(yè)務(wù)流程和客戶需求有了充分的認(rèn)識(shí)。

基于此,阿里的產(chǎn)品便可以在深度了解用戶需求的基礎(chǔ)上,為客戶提供定制化的解決方案,滿足其業(yè)務(wù)需求,提高其業(yè)務(wù)效率和競(jìng)爭(zhēng)力。這讓大模型有了其應(yīng)有之意,不至于淪落為“無(wú)源之水”。

頭部大廠領(lǐng)跑大模型行業(yè)落地

在大模型的 toB 競(jìng)爭(zhēng)中,本質(zhì)而言,是取決于客戶企業(yè)對(duì)商業(yè)價(jià)值的認(rèn)知。和其他行業(yè)一樣,在大模型領(lǐng)域,“多快好省” 和 “物美價(jià)廉” 難以兩全,匆忙上陣的結(jié)果可能是一地雞毛。

因此,企業(yè)客戶在大模型的選擇上更為審慎。盡管大模型的應(yīng)用還在初期,但企業(yè)在模型選擇、模型可靠性、應(yīng)用成本、使用門檻等層面,已有各種考量和顧慮。

百度集團(tuán)副總裁侯震宇曾在采訪中表示:“最終能夠讓大模型服務(wù)推廣開的只有兩個(gè)原因:第一個(gè)是模型效果,第二個(gè)是成本?!?/p>

以百度智能云為例,其大模型的調(diào)用和訓(xùn)練成本一直在下降。文心一言開啟內(nèi)測(cè)后,一個(gè)月就迭代了四次。

根據(jù)百度披露的數(shù)據(jù),文心一言的推理成本如今只有發(fā)布之初的十分之一,在發(fā)布的3個(gè)月內(nèi)推理效率提升10倍,模型推理性能提升50%,模型算力利用率提升1倍。

侯震宇透露,隨著技術(shù)迭代帶來(lái)的成本下降,不管是在模型使用,還是在模型微調(diào)甚至在模型再訓(xùn)練方面,“價(jià)格應(yīng)該不會(huì)成為大家使用或者擁抱大模型的瓶頸”。

與此同時(shí),在SuperCLUE中文大模型7月最新榜單中,百度的大語(yǔ)言模型產(chǎn)品文心一言以62分的總成績(jī)一舉超越越GPT-3.5-turbo(59.79)和ChatGLM-130B(59.35)等,穩(wěn)居行業(yè)頭部。

除了成本和效果,大模型從開發(fā)、應(yīng)用到調(diào)優(yōu)的每一個(gè)環(huán)節(jié)如何落地,如何基于數(shù)據(jù)安全合規(guī)進(jìn)行私有化部署等,都是企業(yè)客戶重點(diǎn)關(guān)注的問(wèn)題。

例如,很多企業(yè)需要的聊天機(jī)器人,并不是選擇具備強(qiáng)大通用能力的大模型就可以,還要求大模型廠商能夠提供易用性、完備度、安全性、穩(wěn)定性都有保證的工具鏈。

在關(guān)注大模型技術(shù)棧完備性的同時(shí),企業(yè)還需要選擇適合自身業(yè)務(wù)的大模型廠商——既有充分的產(chǎn)業(yè)應(yīng)用經(jīng)驗(yàn)積累,也能夠?qū)⒓夹g(shù)應(yīng)用到實(shí)際業(yè)務(wù)場(chǎng)景中。

目前,百度智能云推出的千帆大模型平臺(tái)就擁有較為全面的數(shù)據(jù)服務(wù)能力,從生成、標(biāo)注、回流再到模型訓(xùn)練(Post-pretraining、Fine-tuning、Prompt-tuning)、模型評(píng)估(主觀評(píng)估、客觀評(píng)估)和壓縮、自動(dòng)化 Prompt 工程、到插件應(yīng)用編排,客戶都可以在千帆上一站式完成。

這意味著企業(yè)客戶可以將基于千帆平臺(tái)從0開始訓(xùn)練自己的專屬模型,同時(shí)訓(xùn)練好的模型也可以部署和托管在千帆平臺(tái)上,獲得極致的性能、企業(yè)級(jí)的高可用性和安全環(huán)境。

由于千帆平臺(tái)已經(jīng)制備了開箱即用的使用流程,用可視化產(chǎn)品界面的方式引導(dǎo)用戶使用,極大降低了使用門檻。對(duì)于企業(yè)級(jí)市場(chǎng)比較擔(dān)心的安全可靠問(wèn)題,也內(nèi)置了安全機(jī)制,確保模型的輸入和輸出的安全。

不久前,IDC發(fā)布的《AI大模型技術(shù)能力評(píng)估報(bào)告,2023》對(duì)國(guó)內(nèi)主流大模型,包括百度、阿里、騰訊、華為、科大訊飛、360、商湯等14家廠商參進(jìn)行了評(píng)估。

IDC分別對(duì)大模型的平臺(tái)、創(chuàng)新、通用、算法、服務(wù)、生態(tài)合作、行業(yè)覆蓋和安全可解釋性等諸多方面進(jìn)行了評(píng)價(jià),其中百度 7 個(gè)滿分,阿里 6 個(gè)滿分。百度在算法模型、行業(yè)覆蓋領(lǐng)域拿下行業(yè)唯一滿分。

可以看到,頭部大廠的大模型產(chǎn)品已經(jīng)有所成效。相較之下,部分初創(chuàng)和腰部公司開始呈現(xiàn)疲態(tài)。

從光年之外退出競(jìng)爭(zhēng)、訊飛大幅虧損難以支撐大模型投入便可以得知,一些 “笨鳥先飛” 的企業(yè)已逐漸落后于發(fā)展大勢(shì)。

對(duì)于企業(yè)業(yè)務(wù)而言,現(xiàn)階段更加穩(wěn)妥的方式還是在大廠之間做出抉擇。大廠大模型更能保證服務(wù)交付、運(yùn)維和維保,這也是企業(yè)對(duì)自身向智能化方向轉(zhuǎn)型更加負(fù)責(zé)任地選擇。

結(jié)語(yǔ)

隨著企業(yè)研發(fā)、生產(chǎn)、銷售、人力等各項(xiàng)業(yè)務(wù)場(chǎng)景數(shù)字化深入,如何借助大模型的力量,發(fā)揮出應(yīng)用的最大價(jià)值,正成為企業(yè)商業(yè)制勝的關(guān)鍵所在。

接下來(lái)的競(jìng)爭(zhēng),對(duì)于企業(yè)而言,不再是局限于大模型的追逐,而是如何基于大模型對(duì)應(yīng)用產(chǎn)品進(jìn)行自我優(yōu)化和革新。

對(duì)于大模型廠商而言,比拼的不僅是算力、算法和數(shù)據(jù),未來(lái)長(zhǎng)期的發(fā)展比的更是落地應(yīng)用、生態(tài)渠道、客戶服務(wù)、運(yùn)維等系統(tǒng)性、全面性的支持。

這需要廠商具備強(qiáng)大的技術(shù)水平,以及不斷迭代升級(jí)的能力。要滿足可控和合規(guī)的要求,也需要廠商有較強(qiáng)的綜合能力,能夠長(zhǎng)期穩(wěn)定的投入人力物力。

【關(guān)于科技云報(bào)道】

專注于原創(chuàng)的企業(yè)級(jí)內(nèi)容行家——科技云報(bào)道。成立于2015年,是前沿企業(yè)級(jí)IT領(lǐng)域Top10媒體。獲工信部權(quán)威認(rèn)可,可信云、全球云計(jì)算大會(huì)官方指定傳播媒體之一。深入原創(chuàng)報(bào)道云計(jì)算、大數(shù)據(jù)、人工智能、區(qū)塊鏈等領(lǐng)域。

免責(zé)聲明:此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章,所有文字和圖片版權(quán)歸作者所有,且僅代表作者個(gè)人觀點(diǎn),與極客網(wǎng)無(wú)關(guān)。文章僅供讀者參考,并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱:editor@fromgeek.com。

極客網(wǎng)企業(yè)會(huì)員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2024-04-07
卷完參數(shù)卷應(yīng)用,大模型落地有眉目了?
科技云報(bào)道原創(chuàng)。國(guó)內(nèi)大模型戰(zhàn)場(chǎng)的比拼正在進(jìn)入新的階段。隨著產(chǎn)業(yè)界對(duì)模型落地的態(tài)度逐漸回歸理性,企業(yè)客戶的認(rèn)知從原來(lái)的“覺得大模型什...

長(zhǎng)按掃碼 閱讀全文