今天,我們來(lái)一起聊一聊 NVIDIA RTXTM 系列的專(zhuān)業(yè)顯卡。
目前很多用戶(hù)把 NVIDIA?RTX 專(zhuān)業(yè)卡用在 3D 設(shè)計(jì)仿真,和時(shí)下特別關(guān)注的生成式 AI、大模型訓(xùn)練推理,總體來(lái)說(shuō)可以同時(shí)做圖形和 AI 的工作。
那么問(wèn)題來(lái)了,NVIDIA?RTX 專(zhuān)業(yè)顯卡究竟有什么優(yōu)勢(shì)?最新系列 NVIDIA Ada Lovelace 架構(gòu)顯卡對(duì)比上一代性能又有何提升?針對(duì)不同工作場(chǎng)景應(yīng)該如何選擇?我們?cè)谙路揭曨l中做了詳盡的介紹和測(cè)評(píng),歡迎大家點(diǎn)擊觀看:https://www.bilibili.com/video/BV1EjiRY7E3T/。
外觀
專(zhuān)業(yè)顯卡的外觀有什么不同?視頻中我們以 NVIDIA RTXTM 4500 Ada 為例,這款卡使用的是單渦輪散熱,12+4pin 的供電接口,還有 4 個(gè) DP 顯示接口,不過(guò)這個(gè)系列有些專(zhuān)業(yè)顯卡是四個(gè) mini dp 接口,比如 NVIDIA RTXTM 2000 Ada,專(zhuān)業(yè)顯卡的側(cè)面有獨(dú)立的同步卡接口和 3D sterreo 接口。背面有貼標(biāo)的 S/N 碼,可以追溯每一塊顯卡的來(lái)源。
優(yōu)勢(shì)
1. 驅(qū)動(dòng)優(yōu)化
驅(qū)動(dòng)方面來(lái)說(shuō),NVIDIA RTX 企業(yè)版驅(qū)動(dòng)是唯一經(jīng)過(guò)軟件開(kāi)發(fā)商認(rèn)證的驅(qū)動(dòng)程序。企業(yè)級(jí)驅(qū)動(dòng)程序會(huì)特別針對(duì)專(zhuān)業(yè)應(yīng)用程序、工作流程和顯示配置進(jìn)行額外的測(cè)試,所以穩(wěn)定性和可靠性非常好。比如很多工程制圖類(lèi)、醫(yī)療成像等軟件的用戶(hù)會(huì)偏好使用 RTX 專(zhuān)業(yè)顯卡,很重要的一點(diǎn)就是專(zhuān)業(yè)卡優(yōu)化了顯卡的 OpenGL 這些性能。軟件驅(qū)動(dòng)大家可以在 NVIDIA 官網(wǎng)上搜索專(zhuān)業(yè)顯卡的型號(hào),來(lái)下載對(duì)應(yīng)的驅(qū)動(dòng)。
2. 顯存容量大
RTX 專(zhuān)業(yè)顯卡的顯存不僅容量大,而且還自帶 ECC 糾錯(cuò),在我們運(yùn)行大項(xiàng)目的時(shí)候,穩(wěn)定可靠就至關(guān)重要。我們使用專(zhuān)業(yè)顯卡后可以在 NVIDIA 控制面板中調(diào)用 ECC 。
3. 靜音
熟悉專(zhuān)業(yè)卡的朋友一定會(huì)感嘆它的安靜。我們把 2 張 RTX 專(zhuān)業(yè)卡都裝在工作站中進(jìn)行壓測(cè),貼近出風(fēng)口測(cè)得才 50 分貝左右,不會(huì)產(chǎn)生噪音,也不會(huì)影響辦公室正常工作,能耗也低。
4. 顯卡適配性強(qiáng)
專(zhuān)業(yè)顯卡的適配性非常好,大部分品牌機(jī)型都 ok 。關(guān)鍵還特別扛造,穩(wěn)定性強(qiáng),這意味著售后故障率極低,妥妥的打工人的福音!對(duì)于用到多屏同步的朋友,專(zhuān)業(yè)卡也一定很熟悉。單張專(zhuān)業(yè)卡最大能支持四臺(tái) 4K 120hz 顯示屏,因此一臺(tái)單機(jī)四卡的大型工作站,配合 NVIDIA 同步卡,最大可支持 16 臺(tái) 4K 120hz 顯示屏多屏同步。
NVIDIA Ada Lovelace 架構(gòu)顯卡介紹
NVIDIA Ada Lovelace 架構(gòu)顯卡 VS 上一代
1. 入門(mén)專(zhuān)業(yè)顯卡
入門(mén)級(jí)別的,那就是 NVIDIA RTX 2000 Ada了,小巧別致,功耗僅 70W,可以適配微型工作站,并且不需要外接供電。NVIDIA RTX 2000 Ada 有 16GB 的顯存,它的上一代 NVIDIA RTX A2000 只有 6G 和 12G 兩個(gè)版本。新架構(gòu)有了很大提升,圖形渲染能力已經(jīng)可以與同樣 16GB 顯存的 NVIDIA RTX A4000 相媲美了。比如我們?cè)?blender 4.2 中做了測(cè)試,同樣渲染一張 2720*1080 分辨率的圖, NVIDIA RTX 2000 Ada 相比 NVIDIA RTX A4000 快了 7%。
2. 中端專(zhuān)業(yè)顯卡
中端級(jí)別的顯卡,當(dāng)屬 NVIDIA RTX 4000 Ada 和 NVIDIA RTX 4500 Ada。NVIDIA RTX 4000 Ada 是單寬卡,只需要占用 1 個(gè) PCI-E 槽位。NVIDIA RTX 4500 Ada 則是雙寬卡,需要占用兩個(gè) PCI-E 槽位。
NVIDIA RTX 4000 Ada 顯存有 20GB,而 NVIDIA RTX A4000 只有 16GB,顯存容量和 NVIDIA A4500 一樣,可以稱(chēng)得上是最強(qiáng)單寬卡了。NVIDIA RTX 4500 Ada 相比 NVIDIA RTX A4500 20G 顯存,提升到了 24G 顯存,和 NVIDIA RTX A5000 相同。
我們測(cè)試了 NVIDIA RTX 4000 Ada、NVIDIA RTX 4500 Ada 和 NVIDIA RTX A4500、NVIDIA RTX A5000 的生成式 AI 以及圖形性能。(具體測(cè)試過(guò)程可點(diǎn)擊文章開(kāi)頭視頻查看)
生成式 AI 性能方面,我們用 SD webUI 和 ComfyUI 做測(cè)試,都比較了生成圖像的所耗時(shí)間:
NVIDIA RTX 4000 Ada 和 NVIDIA RTX A4500 基本持平,NVIDIA RTX 4500 Ada 比 NVIDIA RTX A5000 提升非常明顯。
圖形性能方面,我們用 3D 軟件進(jìn)行了 4 項(xiàng)渲染測(cè)試:
NVIDIA RTX 4000 Ada 相比 NVIDIA RTX A4500 有些提升。
NVIDIA RTX 4500 Ada 相較 NVIDIA RTX A5000 有 35% 的提升。
NVIDIA RTX 4000 Ada 和 NVIDIA RTX 4500 Ada 顯卡可以支持單機(jī)單卡和單機(jī)多卡的場(chǎng)景,尤其 NVIDIA RTX 4000 Ada 單寬卡,對(duì)于緊湊型的機(jī)箱裝機(jī)就非常實(shí)用。
3. 高端專(zhuān)業(yè)顯卡
NVIDIA RTX 5000 Ada 和 NVIDIA RTX 5880 Ada 是 NVIDIA RTX Ada Lovelace 系列的高端專(zhuān)業(yè)顯卡。
高端專(zhuān)業(yè)顯卡同樣支持單機(jī)單卡和單機(jī)多卡的場(chǎng)景。他們既可以在單機(jī)單卡工作站中使用,也可以組成單機(jī)多卡的 AI 工作站,應(yīng)用超大顯存來(lái)承擔(dān)復(fù)雜任務(wù)。
圖形能力
高端專(zhuān)業(yè)顯卡可以用來(lái)執(zhí)行最復(fù)雜的圖形任務(wù)。 NVIDIA RTX A6000 是 Ampere 架構(gòu)的“卡皇”,我們拿 NVIDIA RTX 5000 Ada 和 NVIDIA RTX A6000 的圖形渲染能力做過(guò)測(cè)試。廣電用戶(hù)將本地的單卡 NVIDIA RTX A6000 替換成 NVIDIA RTX 5000 Ada,來(lái)對(duì)比在 4K 多屏拼接情況下,渲染的實(shí)時(shí)幀數(shù)表現(xiàn),NVIDIA RTX 5000 Ada 保持在 35 幀左右,比 NVIDIA RTX A6000 平均高 10 幀。
在數(shù)字孿生場(chǎng)景中,我們用 NVIDIA Omniverse 同時(shí)渲染一段汽車(chē)配置器的動(dòng)畫(huà)。NVIDIA RTX A6000 的實(shí)時(shí)渲染幀率在 25 幀,而 NVIDIA RTX 5000 Ada 室內(nèi)平均 80 幀,室外場(chǎng)景則有 100 幀。
AI 能力
除圖形之外,高端專(zhuān)業(yè)顯卡的 AI 能力是最值得稱(chēng)贊的。我們先來(lái)看看單卡的能力。
很多企業(yè)用單塊高端專(zhuān)業(yè)卡搭建工作站,來(lái)做企業(yè)對(duì)話問(wèn)答,模型很多用 7B、8B、13B 大小。日常對(duì)話的短輸入短輸出場(chǎng)景里,Llama 3.1 8B 模型, bs 達(dá)到 256 ,首字延遲和總延遲都很低,吞吐率也很高。Baichuan 13B FP8 的測(cè)試中, bs 到 128,兩款顯卡也都表現(xiàn)很優(yōu)秀。
長(zhǎng)輸入長(zhǎng)輸出 類(lèi)似知識(shí)庫(kù)的應(yīng)用場(chǎng)景中,兩張高端專(zhuān)業(yè)顯卡也同樣可以很好的支持 8B 和 13B FP8 的模型推理。
這兩款顯卡單卡也可以用于小模型的訓(xùn)練。
這兩款顯卡單張用于生成式 AI 是極具性?xún)r(jià)比的,我們以 Flu.1x 模型生圖為例,NVIDIA RTX 5000 Ada 可以支持至 bs 24,NVIDIA RTX 5880 Ada 可以支持到 bs 50。這種水平是其他RTX顯卡都無(wú)法匹及的。
AI 工作站目前使用的是 NVIDIA RTX 5000 Ada 或者 NVIDIA RTX 5880 Ada 的四卡配置方案。
搭載 4 張 NVIDIA RTX 5000 Ada 或者 4 張 NVIDIA RTX 5880 Ada 的工作站可以支持 70B FP8 的模型推理,batch size 到 64 的表現(xiàn)也非常好。
AI 工作站搭載 4 張 NVIDIA RTX 5880 Ada 專(zhuān)業(yè)顯卡,最高擁有 192GB 顯存,可以支持到 70B Qlora 模型的訓(xùn)練。對(duì)于單機(jī)多卡的機(jī)器,RTX 專(zhuān)業(yè)顯卡支持 GPUDirect P2P 通信技術(shù),可以為 GPU 之間提供超強(qiáng)的通信支持。對(duì)于大多數(shù)項(xiàng)目 POC,或者中小企業(yè)、部門(mén)來(lái)說(shuō),AI 工作站已經(jīng)可以承擔(dān)大部分日常的 AI 任務(wù),并且作為放置在辦公室的機(jī)器來(lái)說(shuō),降噪是永恒的追求。對(duì)于在計(jì)劃升級(jí)算力的團(tuán)隊(duì)來(lái)說(shuō),使用專(zhuān)業(yè)顯卡搭載 AI 工作站是非常值得考慮的。
如果大家需要各款顯卡的參數(shù)和具體測(cè)試數(shù)據(jù),可以點(diǎn)擊鏈接獲?。?/p>
https://www.wjx.top/vm/tU0ny4P.aspx#
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長(zhǎng)
- 速通 NVIDIA 專(zhuān)業(yè)顯卡:專(zhuān)業(yè)顯卡有哪些優(yōu)勢(shì)?適合什么場(chǎng)景?
- 馬蜂窩跨年出行預(yù)測(cè):儀式感必不可少,“跨年煙花”帶動(dòng)目的地?zé)岫壬蠞q
- 30億元!比亞迪捐資興教推動(dòng)中國(guó)科教進(jìn)步
- 閉著眼睛寫(xiě)代碼是一種什么樣的體驗(yàn)?
- 2024世界顯示產(chǎn)業(yè)大會(huì)啟幕,4K花園自研“滿(mǎn)天星”獲十大創(chuàng)新應(yīng)用
- 哈佛商學(xué)院:2024年全球96%代碼庫(kù)包含開(kāi)源組件 Rust采用率增長(zhǎng)500%
- 硅谷1/10程序員在摸魚(yú)?基本不干活卻能拿20-30萬(wàn)美元年薪
- 傳馬斯克的"友商"擔(dān)心被報(bào)復(fù) 紛紛示好特朗普
- 數(shù)智龍江向新而行:5G-A與AI等數(shù)智技術(shù)助力龍江打造新質(zhì)生產(chǎn)力
- 加州對(duì)特斯拉和SpaceX說(shuō)不,公報(bào)私仇觸怒馬斯克
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。