押注向量數(shù)據(jù)庫(kù),為時(shí)過(guò)早?

科技云報(bào)道原創(chuàng)。

在大模型的高調(diào)火熱之下,向量數(shù)據(jù)庫(kù)也獲得了前所未有的關(guān)注。

近兩個(gè)月內(nèi),向量數(shù)據(jù)庫(kù)迎來(lái)融資潮,Qdrant、Chroma、Weaviate先后獲得融資,Pinecone宣布1億美元B輪融資,估值達(dá)到7.5億美元。

東北證券預(yù)測(cè),到2030年,全球向量數(shù)據(jù)庫(kù)市場(chǎng)規(guī)模有望達(dá)到500億美元,國(guó)內(nèi)向量數(shù)據(jù)庫(kù)市場(chǎng)規(guī)模有望超600億人民幣。

但是在這蒸蒸日上的發(fā)展態(tài)勢(shì)下,向量數(shù)據(jù)庫(kù)依然面臨著不可忽視的挑戰(zhàn)。

有聲音認(rèn)為,不必專門(mén)開(kāi)發(fā)一款純粹的向量數(shù)據(jù)庫(kù),而是可以在現(xiàn)有數(shù)據(jù)庫(kù)的基礎(chǔ)上添加一些層,賦予其向量檢索的能力。更有業(yè)內(nèi)人士認(rèn)為,現(xiàn)在入局向量數(shù)據(jù)庫(kù)可能并非合適的時(shí)機(jī)。

那么,向量數(shù)據(jù)庫(kù)是否算得上AI時(shí)代的標(biāo)配?其熱度能維持到幾時(shí),此時(shí)押注后續(xù)又要擠出多少泡沫?

向量數(shù)據(jù)庫(kù) 大模型的“海馬體”

與傳統(tǒng)數(shù)據(jù)庫(kù)不同,向量數(shù)據(jù)庫(kù)不依賴于結(jié)構(gòu)化格式,而是將數(shù)據(jù)作為數(shù)學(xué)向量存儲(chǔ)在高維空間中并對(duì)其進(jìn)行索引。

這種方法被稱為“向量化”,可以更有效地搜索相似性并更好地處理復(fù)雜的數(shù)據(jù)類型(圖像、音視頻、自然語(yǔ)言)。

某種程度上,向量數(shù)據(jù)庫(kù)代表了數(shù)據(jù)存儲(chǔ)和檢索的范式轉(zhuǎn)變。隨著大模型的興起,向量數(shù)據(jù)庫(kù)的優(yōu)勢(shì)得以充分發(fā)揮,甚至有人將其視為AIGC成功的基石。

一種通俗的比方是,行業(yè)內(nèi)將大模型稱為“大腦”,向量數(shù)據(jù)庫(kù)則是其“海馬體”。

目前的大模型都是預(yù)訓(xùn)練模型,對(duì)于訓(xùn)練截止日之后發(fā)生的事情一無(wú)所知,第一是沒(méi)有實(shí)時(shí)的數(shù)據(jù),第二是缺乏私域數(shù)據(jù)或者企業(yè)數(shù)據(jù)。

向量數(shù)據(jù)庫(kù)可以通過(guò)存儲(chǔ)最新信息或者企業(yè)數(shù)據(jù)有效彌補(bǔ)了這些不足,讓大模型突破在時(shí)間和空間上的限制,加速大模型落地行業(yè)場(chǎng)景。

同時(shí),通過(guò)向量數(shù)據(jù)的本地存儲(chǔ),還能夠協(xié)助解決目前企業(yè)界最擔(dān)憂的大模型泄露隱私的問(wèn)題。

不過(guò)值得一提的是,向量技術(shù)并不新鮮,早在ChatGPT橫空出世之前,向量數(shù)據(jù)庫(kù)非常小眾。前文提到的兩家初創(chuàng)公司Pinecone和Weaviate都成立于2019年,但此前無(wú)論是融資還是營(yíng)收都是乏善可陳的狀態(tài)。

Pinecone聯(lián)合創(chuàng)始人兼首席執(zhí)行官Edo Liberty曾坦率地提到,如果沒(méi)有ChatGPT的出現(xiàn),我們根本不可能獲得巨額融資。

軟件服務(wù)初創(chuàng)公司Heltar的創(chuàng)始人Avyukt Aggarwal也談到,AIGC的爆火成就了向量數(shù)據(jù)庫(kù)。

“每次淘金熱都會(huì)有人賣(mài)鏟子。對(duì)于生成式AI,鏟子是什么?向量數(shù)據(jù)庫(kù)。幾乎每一個(gè)LLM支持的應(yīng)用程序都在使用它們或即將使用它們?!?/p>

向量數(shù)據(jù)庫(kù) 有必要走向?qū)I(yè)化嗎?

向量數(shù)據(jù)庫(kù)系統(tǒng)的誕生,來(lái)源于具體業(yè)務(wù)需求——想要高效處理海量的向量數(shù)據(jù),就需要更細(xì)分、更專業(yè)的數(shù)據(jù)基礎(chǔ)設(shè)施,為向量構(gòu)建專門(mén)的數(shù)據(jù)庫(kù)處理系統(tǒng)。

但這種路徑是必須的嗎?

從產(chǎn)品層面講,如果傳統(tǒng)數(shù)據(jù)庫(kù)廠商不單獨(dú)研發(fā)向量數(shù)據(jù)庫(kù),那么基本上會(huì)主張支持原生的向量詞嵌入和向量搜索引擎。

向量數(shù)據(jù)庫(kù)市場(chǎng)的陣營(yíng),在ChatGPT影響之前就已經(jīng)在形成分化,既包括提供開(kāi)源組件的Milvus、Vald、Weaviate、Qdrant、Vaspa、Vearch、AquilaDB、Marqo,到商業(yè)化服務(wù)產(chǎn)品Pinecone,再到大廠谷歌推出的Vertex AI匹配引擎,數(shù)據(jù)庫(kù)廠商Elastic和Redis基于自身提供的向量檢索功能等等。

這其實(shí)也表明了當(dāng)前向量數(shù)據(jù)庫(kù)市場(chǎng)存在的兩種路線:

一個(gè)是基于分析數(shù)據(jù)庫(kù)的向量化執(zhí)行引擎,英文是Vectorization,這是學(xué)術(shù)界2013年提出的名詞,如Clickhouse、Spark引擎,是一種新型的執(zhí)行方式,用于處理傳統(tǒng)的結(jié)構(gòu)化數(shù)據(jù)如表單等,更多的是結(jié)構(gòu)化數(shù)據(jù)分析數(shù)據(jù)里面做并行執(zhí)行的一種方式,在新型的處理芯片上進(jìn)行處理。

另一個(gè)則是推出向量數(shù)據(jù)庫(kù)(Vector Database),本質(zhì)上處理的是AI領(lǐng)域的一類新型數(shù)據(jù)類型,例如對(duì)多模數(shù)據(jù)的處理,相比其他的向量檢索技術(shù)在檢索速度和精準(zhǔn)性上都有了一個(gè)很高的提升。

后者的做法也基本在幾家主流云廠商如亞馬遜云、阿里云上能夠看到,而這些云平臺(tái)應(yīng)用市場(chǎng)也會(huì)提供給這些第三方向量數(shù)據(jù)庫(kù)企業(yè)進(jìn)行托管。

例如,阿里云開(kāi)發(fā)的內(nèi)存數(shù)據(jù)庫(kù)Tair,在兼容Redis生態(tài)的同時(shí),也具備向量檢索能力,實(shí)現(xiàn)緩存+向量二合一,已經(jīng)投入在電商等場(chǎng)景。

有業(yè)內(nèi)人士認(rèn)為,對(duì)于簡(jiǎn)單的用戶和場(chǎng)景來(lái)說(shuō),在傳統(tǒng)數(shù)據(jù)庫(kù)上添加一個(gè)向量分層來(lái)滿足技術(shù)發(fā)展需求,這種方法是可行的。

然而,考慮到?AI 場(chǎng)景和產(chǎn)業(yè)需求,情況可能有所不同。AI領(lǐng)域的迭代非常快,隨著數(shù)據(jù)量和應(yīng)用場(chǎng)景的增加,傳統(tǒng)數(shù)據(jù)庫(kù)可能不再適用于高要求的計(jì)算密集型場(chǎng)景,向量數(shù)據(jù)庫(kù)可能才是最終的解決方案。

押注向量數(shù)據(jù)庫(kù)?挑戰(zhàn)頗多

作為今年以來(lái)的熱門(mén)技術(shù)賽道,向量數(shù)據(jù)庫(kù)已吸引了大量廠商和創(chuàng)業(yè)團(tuán)隊(duì)入場(chǎng),先發(fā)者與后來(lái)者,老牌廠商與新生力量之間的競(jìng)爭(zhēng)正在持續(xù)升溫。

但值得注意的是,向量數(shù)據(jù)庫(kù)真的值得廠商全力投入嗎?

在《為什么你不應(yīng)該投資向量數(shù)據(jù)庫(kù)?》一文中,吳英駿表示,現(xiàn)在入局向量數(shù)據(jù)庫(kù)可能并非合適的時(shí)機(jī)。其理由主要集中于以下幾點(diǎn):

其一,先發(fā)優(yōu)勢(shì)明顯。目前向量化技術(shù)目前已十分成熟,并存在大量開(kāi)源解決方案,在不同的領(lǐng)域也存在不同的向量化方案,潛在用戶可以很容易地在現(xiàn)有市場(chǎng)中找到合適的選擇。

其二,需求層次不同。如果一家公司已經(jīng)采用了Elastic,Redis,SingleStore或Rockset等商業(yè)數(shù)據(jù)庫(kù),并且不需要高度先進(jìn)的向量搜索功能,則可以充分利用這些數(shù)據(jù)庫(kù)的現(xiàn)有功能。

盡管在向量數(shù)據(jù)處理方面的表現(xiàn)不如專業(yè)的向量數(shù)據(jù)庫(kù),但依然可以滿足多數(shù)用戶的一般要求。

其三,技術(shù)在不斷前進(jìn)。隨著數(shù)據(jù)庫(kù)領(lǐng)域技術(shù)的進(jìn)步,越來(lái)越多的數(shù)據(jù)庫(kù)會(huì)考慮納入向量搜索功能,以滿足當(dāng)前用戶群的需求。對(duì)于目前缺乏向量搜索功能的數(shù)據(jù)庫(kù),實(shí)現(xiàn)這些功能或許只是時(shí)間問(wèn)題。

也有聲音認(rèn)為,相較于大模型的高調(diào)火熱,向量數(shù)據(jù)庫(kù)仍然靠近底層,并沒(méi)有達(dá)到真正意義上的全民皆知,向量數(shù)據(jù)庫(kù)更多時(shí)候是需要集成到其他平臺(tái)或云上被銷售。

而從需求端看,過(guò)去向量檢索還主要聚焦于機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘領(lǐng)域,通過(guò)高效的數(shù)據(jù)存儲(chǔ)和查詢工具,使得相似性搜索和聚類分析成為可能。

在推薦系統(tǒng)中,向量數(shù)據(jù)庫(kù)助力個(gè)性化推薦,根據(jù)用戶興趣和商品相似性,呈現(xiàn)給用戶最貼切的推薦結(jié)果。

簡(jiǎn)言之,“與其投資新的向量數(shù)據(jù)庫(kù)項(xiàng)目,不如集中精力于現(xiàn)有數(shù)據(jù)庫(kù),并探索利用向量引擎增強(qiáng)這些數(shù)據(jù)庫(kù)的機(jī)會(huì),使其更加健壯和強(qiáng)大”。

結(jié)語(yǔ)

無(wú)論如何,在技術(shù)的快速迭代下,數(shù)據(jù)庫(kù)市場(chǎng)的持續(xù)擴(kuò)張是不可避免的。當(dāng)前存在著大量的需求,將吸引越來(lái)越多的數(shù)據(jù)庫(kù)甚至向量數(shù)據(jù)庫(kù)加入競(jìng)爭(zhēng)。

不過(guò)從長(zhǎng)遠(yuǎn)來(lái)看,向量數(shù)據(jù)庫(kù)的市場(chǎng)需求尚處于初期,中遠(yuǎn)期規(guī)模尚難以預(yù)估。在若干輪優(yōu)勝劣汰之后,我們或許才能看清誰(shuí)是真正的執(zhí)棋者。

免責(zé)聲明:此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章,所有文字和圖片版權(quán)歸作者所有,且僅代表作者個(gè)人觀點(diǎn),與極客網(wǎng)無(wú)關(guān)。文章僅供讀者參考,并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱:editor@fromgeek.com。

極客網(wǎng)企業(yè)會(huì)員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。

2023-10-07
押注向量數(shù)據(jù)庫(kù),為時(shí)過(guò)早?
科技云報(bào)道原創(chuàng)。在大模型的高調(diào)火熱之下,向量數(shù)據(jù)庫(kù)也獲得了前所未有的關(guān)注。近兩個(gè)月內(nèi),向量數(shù)據(jù)庫(kù)迎來(lái)融資潮,Qdrant、Chroma、Weavia...

長(zhǎng)按掃碼 閱讀全文