大模型一體機(jī)是在“賣(mài)盒子”嗎？

如果要找一個(gè)海內(nèi)外大模型商業(yè)化探索的差異點(diǎn)，“一體機(jī)”應(yīng)該榜上有名。

微軟、谷歌、OpenAI等，主要通過(guò)基于云的AI服務(wù)和API接口來(lái)實(shí)現(xiàn)商業(yè)化。當(dāng)然也有硬件，比如英偉達(dá)推出的Jetson，就是面向邊緣計(jì)算和AI應(yīng)用的一款設(shè)備，可以用來(lái)在邊緣場(chǎng)景中運(yùn)行復(fù)雜的AI模型，但更多的是作為一個(gè)通用的AI計(jì)算平臺(tái)，而不是集成了特定大模型的一體機(jī)。

與之相比，“大模型一體機(jī)”在中國(guó)市場(chǎng)的熱度更高。主流AI大模型廠(chǎng)商、ICT服務(wù)商及ISV服務(wù)商，幾乎全部下場(chǎng)了。

AI大模型廠(chǎng)商，如百度的千帆大模型一體機(jī)、科大訊飛的星火一體機(jī)、智譜AI的智譜GLM昇騰大模型一體機(jī)。ICT廠(chǎng)商和ISV服務(wù)商也都在積極推出各種場(chǎng)景化一體機(jī)，比如新華三面向政企客戶(hù)的AIGC靈犀一體機(jī)，達(dá)觀數(shù)據(jù)面向企業(yè)市場(chǎng)的“曹植”大模型一體機(jī)，商湯科技的金融大模型檢索問(wèn)答一體機(jī)，中軟國(guó)際面向政府市場(chǎng)的JointPilot“四問(wèn)（問(wèn)數(shù)、問(wèn)視、問(wèn)策、問(wèn)服）”系列大模型一體機(jī)等。

大模型一體機(jī)，是一個(gè)非常有意思的賽道。

有人說(shuō)，大模型一體機(jī)更符合國(guó)情，類(lèi)似于“賣(mài)盒子”，也就是軟硬結(jié)合，將軟件帶硬件盒子一起賣(mài)給客戶(hù)，這在ToB/ToG市場(chǎng)很好用，因?yàn)楦稀芭陌孱I(lǐng)導(dǎo)”的認(rèn)知范圍，不認(rèn)可軟件的價(jià)值，只愿意為看得見(jiàn)摸得著的硬資產(chǎn)付費(fèi)。

大模型一體機(jī)，通過(guò)將計(jì)算硬件和AI大模型及相關(guān)支持軟件，緊耦合封裝在一起，方便客戶(hù)使用大模型來(lái)實(shí)現(xiàn)AI應(yīng)用，可以看作是AI版的“賣(mài)盒子”，是一種好的商業(yè)模式嗎？

一體機(jī)里，除了大模型還有什么？

首先有必要搞清楚，大模型一體機(jī)究竟在賣(mài)什么？市面上的大模型一體機(jī)，主要由幾個(gè)部分構(gòu)成：

硬件。大模型的訓(xùn)練和推理，需要大量的算力資源，涉及高性能AI硬件。大模型一體機(jī)搭載AI硬件，并針對(duì)模型進(jìn)行優(yōu)化調(diào)校。尤其是國(guó)產(chǎn)芯片，有數(shù)據(jù)顯示，通過(guò)優(yōu)化，可以將國(guó)產(chǎn)芯片性能提升20%-30%，吞吐量提升6-7倍，因此大模型一體機(jī)可以提供更高的算效。

2.大模型。滿(mǎn)足客戶(hù)使用大模型、開(kāi)發(fā)AI應(yīng)用的需求，大模型一體機(jī)中內(nèi)置的大模型也各有特色。這里簡(jiǎn)單介紹兩種，一種是單一大模型的一體機(jī)，比如軟通動(dòng)力聯(lián)合百川智能推出的“軟通-百川AI大模型一體機(jī)”，就預(yù)裝了百川大模型。另一種是開(kāi)源開(kāi)放的大模型一體機(jī)，提供豐富的基座大模型讓企業(yè)測(cè)試、調(diào)用，比如百度的千帆大模型一體機(jī)，除了內(nèi)置百度自研的文心大模型，也提供Llama、Baichuan、ChatGLM等十余個(gè)主流開(kāi)源大模型。

3.全棧工具。通用場(chǎng)景的大模型，是無(wú)法直接被特定領(lǐng)域、垂直場(chǎng)景來(lái)使用的。舉個(gè)例子，很多行業(yè)還沒(méi)有高質(zhì)量的語(yǔ)料，一些知識(shí)經(jīng)驗(yàn)還沒(méi)有被文本化、數(shù)據(jù)化，導(dǎo)致大模型無(wú)法充分學(xué)習(xí)。所以，想要用好大模型，很多企業(yè)還需要有工程師來(lái)進(jìn)行數(shù)據(jù)治理，建立高質(zhì)量的行業(yè)語(yǔ)料和知識(shí)庫(kù)，做好提示詞工程，開(kāi)發(fā)業(yè)務(wù)友好的插件……從零搭建起全棧AI開(kāi)發(fā)能力，有著不小的工程量。而大模型一體機(jī)，針對(duì)垂直場(chǎng)景進(jìn)行過(guò)優(yōu)化微調(diào)，集成了易用的平臺(tái)化工具，可以將原本幾個(gè)月的開(kāi)發(fā)周期縮短到幾天、幾小時(shí)，實(shí)現(xiàn)特定行業(yè)專(zhuān)屬大模型的快速部署。

4.支持服務(wù)。不同于傳統(tǒng)軟件，大模型需要持續(xù)學(xué)習(xí)，根據(jù)人類(lèi)反饋和數(shù)據(jù)集及時(shí)更新迭代，具有很強(qiáng)的時(shí)效性，需要服務(wù)商更快、更有針對(duì)性地響應(yīng)。而作為整體解決方案出售的大模型一體機(jī)，包含了一定程度的技術(shù)支持和服務(wù)，可以解決企業(yè)長(zhǎng)期應(yīng)用大模型的問(wèn)題。

不難發(fā)現(xiàn)，相比單純售賣(mài)AI服務(wù)和API的商業(yè)模式，開(kāi)箱即用的大模型一體機(jī)，能夠縮短部署周期、深度結(jié)合場(chǎng)景、打消落地門(mén)檻，是更符合當(dāng)下產(chǎn)業(yè)現(xiàn)狀的一種選擇，也可以讓更多企業(yè)更快地用好大模型。

大模型一體機(jī)，不等于傳統(tǒng)盒子

國(guó)內(nèi)企業(yè)紛紛推出大模型一體機(jī)時(shí)，我所在的一個(gè)行業(yè)群，有人表示：國(guó)內(nèi)就是軟件不值錢(qián)，硬件值錢(qián)。

提供服務(wù)和解決方案的商業(yè)模式，優(yōu)于“賣(mài)盒子”，是一個(gè)業(yè)內(nèi)流傳已久的觀念。

尤其是在傳統(tǒng)企業(yè)軟件和云計(jì)算領(lǐng)域，“賣(mài)盒子”被認(rèn)為是市場(chǎng)不夠成熟的無(wú)奈之選，因?yàn)橐郧昂芏嗉追降念I(lǐng)導(dǎo)不了解軟件技術(shù)，覺(jué)得硬件更有科技含量。而在銷(xiāo)售方式上，賣(mài)盒子壁壘不高，拼的不是產(chǎn)品創(chuàng)新，而是客情關(guān)系和酒量。商業(yè)回報(bào)上，賣(mài)盒子涉及定制成本、人力維護(hù)成本，無(wú)法像軟件那樣通過(guò)規(guī)?；@得非線(xiàn)性增長(zhǎng)，干的都是苦活累活。

既然大模型一體機(jī)，也是將大模型及相關(guān)軟件與硬件集成，作為一個(gè)整體產(chǎn)品出售來(lái)“賣(mài)盒子”。這種商業(yè)模式究竟好不好呢？

這里要明確，盡管都是將軟硬件集成在一起售賣(mài)，但此一時(shí)彼一時(shí)，大模型一體機(jī)并不能等同于傳統(tǒng)的“賣(mài)盒子”模式。

從市場(chǎng)源頭的需求驅(qū)動(dòng)力來(lái)看，購(gòu)買(mǎi)一體機(jī)的用戶(hù)，并非“不懂大模型”。

認(rèn)為“賣(mài)盒子”比“賣(mài)軟件服務(wù)”low，往往是覺(jué)得ToB市場(chǎng)的很多客戶(hù)不懂軟件，不明白為什么一張license要賣(mài)那么貴，必須封裝到盒子里才肯買(mǎi)單。

但今時(shí)今日，隨著數(shù)字化、智能化的深入，各行各業(yè)的企業(yè)決策者，很少有人不認(rèn)可大模型的價(jià)值，不認(rèn)可數(shù)據(jù)工程、知識(shí)工程等“軟實(shí)力”之于AI落地的意義。恰恰相反，大模型一體機(jī)的市場(chǎng)崛起，正是因?yàn)閷?duì)應(yīng)用大模型、開(kāi)發(fā)專(zhuān)屬大模型的迫切渴求。

如果說(shuō)以前“賣(mài)盒子”有點(diǎn)買(mǎi)櫝還珠的味道，那么現(xiàn)在，一體機(jī)中大模型這顆“明珠”在企業(yè)市場(chǎng)的認(rèn)可度，是毋庸置疑的。

除了“軟實(shí)力”的價(jià)值受到認(rèn)可，大模型一體機(jī)的硬件，也更加多元化。

“賣(mài)盒子”的另一類(lèi)訴求是，將硬件作為企業(yè)資產(chǎn)的一部分，更好估價(jià)，導(dǎo)致了硬件過(guò)度堆砌、脫離業(yè)務(wù)實(shí)際需求的情況。顯然，大模型一體機(jī)市場(chǎng)，也并不是這樣的。

我們注意到，大模型一體機(jī)的供應(yīng)商，普遍會(huì)提供多種部署方案，既有低成本的輕量級(jí)一體機(jī)，也有針對(duì)大中型客戶(hù)的定制化高配一體機(jī)，相當(dāng)于中杯、大杯和超大杯。企業(yè)完全可以立足于業(yè)務(wù)場(chǎng)景的實(shí)際需求，選擇最適合自己的硬件版本，無(wú)需重度投入過(guò)多的硬件資源。

“不是高配一體機(jī)買(mǎi)不起，而是輕量一體機(jī)更有性?xún)r(jià)比”，價(jià)值導(dǎo)向、實(shí)用導(dǎo)向驅(qū)動(dòng)的大模型一體機(jī)，拼的主要是產(chǎn)品力，在供給和銷(xiāo)售策略上也更合理、更市場(chǎng)化。

另外值得一提的是，“賣(mài)盒子”曾被認(rèn)為是迎合了中國(guó)企業(yè)缺乏“安全感”的心理，進(jìn)行（沒(méi)有太大必要的）私有化本地部署。那么，支持本地部署、強(qiáng)調(diào)數(shù)據(jù)隔離與安全保障的大模型一體機(jī)，有必要嗎？

相信了解大模型技術(shù)的讀者，都會(huì)很快做出判斷：很有必要。

大模型不同于傳統(tǒng)的軟件技術(shù)，其訓(xùn)練和推理都會(huì)涉及大量重要隱私數(shù)據(jù)，又存在“幻覺(jué)”問(wèn)題，對(duì)數(shù)據(jù)監(jiān)管和內(nèi)容安全的擔(dān)憂(yōu)并非杞人憂(yōu)天。

而大模型一體機(jī)的本地私有化部署，可以幫助企業(yè)實(shí)現(xiàn)數(shù)據(jù)隔離與網(wǎng)絡(luò)隔離，減少數(shù)據(jù)傳輸及存儲(chǔ)的風(fēng)險(xiǎn)，確保數(shù)據(jù)資產(chǎn)的安全性。不打消客觀存在的安全顧慮，大模型是很難落地到“最后一公里”的。

所以，大模型一體機(jī)并不等于傳統(tǒng)的“賣(mài)盒子”，而是從復(fù)雜產(chǎn)業(yè)實(shí)際出發(fā)的一種選擇。

大模型一體機(jī)，到底誰(shuí)在用？

當(dāng)然，大模型一體機(jī)確有其用，并不意味著每一個(gè)開(kāi)發(fā)者、每一家企業(yè)都適合。

相比大模型一體機(jī)少則幾萬(wàn)、多則幾十萬(wàn)的前期投入成本，通過(guò)API調(diào)用次數(shù)或計(jì)算資源計(jì)費(fèi)，一個(gè)token只需要幾分錢(qián)，初始成本更低。那么，這大模型一體機(jī)到底是誰(shuí)在用啊？

有三類(lèi)群體，應(yīng)該將大模型一體機(jī)的集成方案，作為重點(diǎn)考量：

一是風(fēng)險(xiǎn)敏感型。

包括數(shù)據(jù)隱私安全風(fēng)險(xiǎn)，以及供應(yīng)鏈斷鏈風(fēng)險(xiǎn)。軟硬件協(xié)同優(yōu)化的一體機(jī)，可以讓AI大模型在國(guó)產(chǎn)硬件上也有不錯(cuò)的性能表現(xiàn)。對(duì)于有信創(chuàng)需求的企事業(yè)單位，是更優(yōu)解。

公開(kāi)報(bào)道顯示，基于昇騰AI硬件底座的軟通AI訓(xùn)推一體化平臺(tái)，就受到央國(guó)企、科技機(jī)構(gòu)、教育、金融等領(lǐng)域客戶(hù)的認(rèn)可。

二是長(zhǎng)期運(yùn)營(yíng)型。

一位開(kāi)發(fā)者朋友，在調(diào)用了GPT4-Turbo之后表示：“太燒錢(qián)了！” 他所用的非代碼調(diào)用場(chǎng)景，一次要花費(fèi)0.5元，長(zhǎng)期用是不可承受的，于是選擇了能力更低的GPT-3.5+其他模型的組合拳。

大模型API基于token使用量的計(jì)費(fèi)方式，雖然初始階段看起來(lái)成本更低，但總體擁有成本（TCO）卻未必。實(shí)踐看來(lái)，企業(yè)應(yīng)用AI，并不意味著所有任務(wù)都要使用云端先進(jìn)大模型的完整能力。

大模型一體機(jī)提供的更豐富的模型選型、本地化部署、優(yōu)化過(guò)的性能保障，可能讓企業(yè)AI開(kāi)發(fā)應(yīng)用的全生命周期，打好“組合拳”。

三是非AI原生型。

大模型火爆之后，很多行業(yè)和企業(yè)才開(kāi)始關(guān)注AI、使用AI，沒(méi)有積累相關(guān)的開(kāi)發(fā)能力和人才，對(duì)技術(shù)也是一知半解，這時(shí)候想要在自身的業(yè)務(wù)場(chǎng)景中快速上馬大模型，可能要面臨短期內(nèi)資源緊缺的溢價(jià)情況，被迫在算力市場(chǎng)、人才市場(chǎng)進(jìn)行競(jìng)價(jià)，試錯(cuò)成本更高。這時(shí)候，通過(guò)大模型一體機(jī)的小時(shí)級(jí)一站式交付、即插即用，可以快速試錯(cuò)。

比如一個(gè)普惠版的大模型一體機(jī)，不需要A100這類(lèi)高端顯卡，就可以幫助企業(yè)打造一個(gè)專(zhuān)屬大模型，開(kāi)發(fā)出小型的知識(shí)庫(kù)應(yīng)用或AIGC類(lèi)應(yīng)用，讓業(yè)務(wù)智能化起來(lái)，讓大模型不再遙遠(yuǎn)。

大模型的商業(yè)化探索還處于早期，用傳統(tǒng)的眼光去看待新興事物，未嘗不是一種刻舟求劍。大模型不一定要捆綁硬件來(lái)凸顯價(jià)值，但一定要結(jié)合硬件來(lái)充分釋放價(jià)值。

從這個(gè)角度來(lái)說(shuō)，大模型一體機(jī)的商業(yè)內(nèi)核，與以往的“賣(mài)盒子”有本質(zhì)的不同，或許能為企業(yè)市場(chǎng)帶來(lái)一種全新的商業(yè)機(jī)遇。

生成海報(bào)

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個(gè)人觀點(diǎn)，與極客網(wǎng)無(wú)關(guān)。文章僅供讀者參考，并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。