大模型一體機(jī)塞進(jìn)這款游戲卡,價格砍掉一個數(shù)量級

來源:量子位 作者:金磊 夢晨

家人們,你知道近段時間大火的各種大模型一體機(jī),里面到底是什么卡嗎?

相信很多小伙伴的第一反應(yīng),或許就是N卡。

但在我們接觸、體驗了真實的大模型一體機(jī)之后,發(fā)現(xiàn)了一個大寫的“萬萬沒想到”:

1.png

沒錯,里面也可以是英特爾的銳炫? 顯卡!

那這性能到底能不能跟上呢?

帶著這個問題,在體驗之余,我們還“抓”來了一個正在為這種一體機(jī)開發(fā)方案的軟件公司進(jìn)行了一番“盤問”。

這家公司叫飛致云,主要是把大模型一體機(jī)用在了自家的MaxKB上(一款基于大語言模型的知識庫問答系統(tǒng))。

他們是把4張銳炫? A770顯卡和2張N卡放到一起,做了一下對比測試:

2.jpeg

但是!

買半張N卡的錢,就能輕松搞定4張銳炫? 顯卡。

由此,飛致云給出了這樣一個結(jié)論:

31.jpeg

3.png

一個“性價比”關(guān)鍵詞,道破了為什么大模型一體機(jī)里面會出現(xiàn)英特爾游戲卡。

畢竟之前企業(yè)要私有化部署一個目前最流行的DeepSeek一體機(jī),那個價格可是動輒便破百萬元。

但現(xiàn)在,英特爾靠著自家的游戲卡,把這個價格直接就砍掉一個數(shù)量級。

因此,現(xiàn)在的大模型一體機(jī),有了另一種更高性價比的選擇。

而且有一說一,除了一體機(jī)本身,若是聚焦在AI推理的任務(wù)上,現(xiàn)在可以說是處處都有銳炫? 顯卡的影子。

##搞AI推理,請記住全新英特爾GPU+CPU組合

首先要說明的一點(diǎn)是,搞大模型一體機(jī),英特爾靠的不僅僅是自家游戲卡那么簡單。

它的背后其實是一記組合拳的模式:

英特爾銳炫? 顯卡 + 至強(qiáng)? W處理器。

4.png

銳炫? 顯卡在這里面的角色不用多說,主要是推理的“加速器”。

而至強(qiáng)? W處理器不僅能充當(dāng)“大腦”的角色,來負(fù)責(zé)通用計算與系統(tǒng)協(xié)調(diào),還能在一些開源軟件平臺,如KTransformer或英特爾自己開發(fā)的工具,如FlashMOE的幫助下,與顯卡協(xié)作進(jìn)行異構(gòu)加速,例如在DeepSeek中承擔(dān)一些稀疏MOE的處理工作。

為了充分發(fā)揮銳炫? 顯卡的能力,英特爾通過優(yōu)化顯存帶寬(如A770卡間通信達(dá)20G/秒)和低時延技術(shù)(如內(nèi)存拷貝優(yōu)化),解決了多卡并行時的性能損耗問題,提升了吞吐量(如70B模型支持12路實時聊天)。

即便對于不同規(guī)模場景,英特爾也能做到適配——從供AGI開發(fā)人員使用的工作站(2卡)到裝載4卡或8卡的大尺寸一體機(jī),能滿足多樣化且差異化的需求。

5.png

例如我們剛才提到的飛致云的MaxKB,在知識問答、智能客服、內(nèi)容生成、文檔合規(guī)檢查等場景中就實現(xiàn)了效率提升、成本優(yōu)化和風(fēng)險控制。

同時依托高性能硬件解決了AI模型私有化部署與算力需求問題。

除此之外,我們發(fā)現(xiàn)還有好多企業(yè)都在選擇構(gòu)建英特爾這對CPU與GPU組合的一體機(jī)系統(tǒng)、軟件或整體解決方案。

超云,便是其中之一。

6.png

超云基于英特爾的平臺,打造了三種不同形態(tài)的設(shè)備。

例如適應(yīng)普通辦公環(huán)境的塔式工作站、小型液冷一體機(jī),支持包含英特爾銳炫? 顯卡在內(nèi)的2-4張GPU卡。

再如最高可配8卡的大尺寸高端一體機(jī),可運(yùn)行32B-70B參數(shù)規(guī)模的大模型。

據(jù)了解,所有這些機(jī)型都已經(jīng)投入到了實際使用當(dāng)中,主打:

· 企業(yè)內(nèi)部AI助手:超云自身使用開源模型搭建知識庫系統(tǒng),實現(xiàn)自動化報價、報銷審批;

· 金融行業(yè)智能投顧:基于32B蒸餾模型,提供實時數(shù)據(jù)分析與投資建議;

· 海量文檔處理:使用智能OCR+大模型,實現(xiàn)公文自動歸檔與檢索。

與之類似的還包括云尖。

它推出邊緣推理工作站,可支持4張GPU卡,適用7B-32B輕量化模型,可以滿足文檔OCR、智能質(zhì)檢等企業(yè)本地化AI應(yīng)用。

此外,已經(jīng)pick英特爾平臺的一體機(jī)解決方案還有很多,未來可能還會有更多,而如此多合作伙伴的一致選擇,也就不難從側(cè)面印證一點(diǎn):

不論是單純的AI推理應(yīng)用,亦或是融合了推理及各種可視化生產(chǎn)力應(yīng)用的復(fù)合場景,英特爾這套組合拳,已然成為了一種業(yè)界公認(rèn)的、高性價比的新選項。

7.png8.png9.png

##一體機(jī),為什么紛紛選擇英特爾平臺?

自春節(jié)前DeepSeek-R1驚艷亮相,經(jīng)過兩個多月的沉淀,從行業(yè)落地情況來看,明顯呈現(xiàn)出一個趨勢:

越來越多的企業(yè)選擇以一體機(jī)的形式將DeepSeek融入業(yè)務(wù)。而這一趨勢,也在影響其他大模型落地的“姿式”。

而部署速度快,正是這一趨勢得以率先顯現(xiàn)的原因。

一方面,得益于一體機(jī)開箱即用且方便為各垂直行業(yè)深度定制化的特點(diǎn),預(yù)裝模型、優(yōu)化軟硬件協(xié)同,讓企業(yè)無需自行復(fù)雜調(diào)試。

另一方面,啟動成本低的優(yōu)勢讓企業(yè)能先用一體機(jī)把大模型跑起來,再慢慢迭代。

當(dāng)然,對于眾多企業(yè)而言,在選擇一體機(jī)時,除了追求速度優(yōu)勢之外,實際上還有著更多深層次、全方位的考量因素,這些因素綜合起來影響著企業(yè)的決策:

·性能與成本更平衡,運(yùn)營成本降低

一體機(jī)可實現(xiàn)性能與成本的精妙平衡,其憑借強(qiáng)大高效的硬件配置和優(yōu)化的軟件系統(tǒng),為企業(yè)提供穩(wěn)定高效算力,滿足業(yè)務(wù)需求,避免使用云算力的持續(xù)費(fèi)用,降低運(yùn)營成本。

·運(yùn)維簡化

傳統(tǒng) IT 系統(tǒng)由多種硬件設(shè)備和軟件系統(tǒng)組成,運(yùn)維管理復(fù)雜繁瑣,企業(yè)需投入大量人力、物力和時間進(jìn)行安裝、配置、維護(hù)和更新。而一體機(jī)將軟硬件深度集成為統(tǒng)一整體,簡化了運(yùn)維流程,企業(yè)統(tǒng)一管理維護(hù)即可應(yīng)對業(yè)務(wù)需求和技術(shù)挑戰(zhàn),運(yùn)維效率大幅提高,而管理難度和成本都顯著降低。

·穩(wěn)定可靠

對AI業(yè)務(wù)而言,連續(xù)性和穩(wěn)定性很重要。一體機(jī)軟硬件經(jīng)嚴(yán)格集成測試與優(yōu)化,能在復(fù)雜環(huán)境長時間穩(wěn)定運(yùn)行。同時可以專機(jī)專用,避免云服務(wù)在高峰期造成速度和可用性上的波動。

英特爾所推出的銳炫? 顯卡與至強(qiáng)? W處理器的組合,正是一套滿足以上因素的極具潛力的解決方案。

10.png

像這樣的配置,不光能夠很好地支持DeepSeek R1系列,同時還與Qwen、Baichuan、Llama等多個開源模型兼容適配。

這意味著在不同的應(yīng)用場景和業(yè)務(wù)需求下,這個組合都能靈活應(yīng)對,為企業(yè)帶來多樣化的選擇和更豐富的功能體驗。

11.png

這些選擇,這些體驗,目標(biāo)都只有一個,那就是AI普惠或者說AI無處不在!

站在歷史的角度,一體機(jī)要承擔(dān)的使命,正是要將強(qiáng)大的AI模型引入各行各業(yè),這與計算機(jī)從大型機(jī)時代發(fā)展至個人計算機(jī)(PC)時代的進(jìn)程類似。

包括DeepSeek在內(nèi)的大模型前沿創(chuàng)新企業(yè)選擇開源,是激發(fā)這一進(jìn)程的起點(diǎn),而整個進(jìn)程能否迅速演進(jìn),就要靠全行業(yè)的共同參與了。

英特爾在此時,就像穿越回了上世紀(jì)80年代,那時它曾憑借開放架構(gòu)和高性價比方案重新定義了PC,并拉著全球的合作伙伴們一手促成了PC真正意義上的“個人化”普及,而今,到了在AI世界復(fù)刻這一成功經(jīng)驗的時候了。

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實,并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )