8月18日,中國(guó)算力大會(huì)在銀川盛大開(kāi)幕,在“智算無(wú)限 全棧智能 聯(lián)想AI算力戰(zhàn)略暨AI服務(wù)器新品發(fā)布會(huì)”上,聯(lián)想重磅發(fā)布兩款全新AI服務(wù)器產(chǎn)品——聯(lián)想問(wèn)天WA7780 G3 AI大模型訓(xùn)練服務(wù)器和聯(lián)想問(wèn)天WA5480 G3 AI訓(xùn)推一體服務(wù)器。
這兩款服務(wù)器是基于AI導(dǎo)向打造的全新產(chǎn)品,能夠助力構(gòu)建更加綠色高效的人工智能數(shù)據(jù)中心,滿(mǎn)足客戶(hù)從訓(xùn)練到推理等多樣的算力需求。
AI賦智,綠色賦能:打造AI導(dǎo)向的算力基礎(chǔ)設(shè)施,領(lǐng)跑中國(guó)智能化變革
近年來(lái),在“建設(shè)數(shù)字中國(guó)”的背景下,中國(guó)算力基礎(chǔ)設(shè)施的“地基”快速發(fā)展,行業(yè)智能化轉(zhuǎn)型迎來(lái)進(jìn)一步深化。與此同時(shí),據(jù)IDC報(bào)告顯示,隨著生成式人工智能應(yīng)用的爆發(fā),各行業(yè)對(duì)智算的需求首次超過(guò)通用算力,AI算力已成為算力發(fā)展的主要方向。
今年年初,聯(lián)想發(fā)布了聯(lián)想服務(wù)器的首個(gè)本地化品牌“聯(lián)想問(wèn)天”,以“本地創(chuàng)新、敏捷高效”為品牌內(nèi)涵,更好地滿(mǎn)足中國(guó)本土客戶(hù)的個(gè)性化需求。聯(lián)想通過(guò)AI導(dǎo)向的算力基礎(chǔ)設(shè)施,加速人工智能進(jìn)入千行百業(yè)、覆蓋多元場(chǎng)景,最終實(shí)現(xiàn)普適、智慧相融合,引領(lǐng)算力行業(yè)走向普適、智慧和綠色的新未來(lái)。
會(huì)上,聯(lián)想集團(tuán)副總裁、聯(lián)想中國(guó)區(qū)基礎(chǔ)設(shè)施業(yè)務(wù)群服務(wù)器事業(yè)部總經(jīng)理陳振寬表示:“在通用算力向AI算力發(fā)展的當(dāng)下,聯(lián)想問(wèn)天WA7780 G3 AI大模型訓(xùn)練服務(wù)器和聯(lián)想問(wèn)天WA5480 G3 AI訓(xùn)推一體服務(wù)器兩款新品將分別滿(mǎn)足不同類(lèi)型的AI應(yīng)用場(chǎng)景需求。”
聯(lián)想問(wèn)天WA7780G3AI大模型訓(xùn)練服務(wù)器:性能強(qiáng)勁,靈活高效
聯(lián)想問(wèn)天WA7780 G3是一款專(zhuān)為AI大模型訓(xùn)練所打造的服務(wù)器。AI算力已成為企業(yè)訓(xùn)練開(kāi)發(fā)使用人工智能的硬門(mén)檻。聯(lián)想問(wèn)天WA7780 G3 AI大模型訓(xùn)練服務(wù)器正是為打破AI算力供給困境而來(lái),為訓(xùn)練提供強(qiáng)勁的算力支撐。
●澎湃算力
聯(lián)想問(wèn)天WA7780 G3 AI大模型訓(xùn)練服務(wù)器基于第四代英特爾®至強(qiáng)®可擴(kuò)展處理器。NVIDIA HGX H800系統(tǒng)配備8顆H800 NVLink® GPU,擁有高達(dá)640GB的HBM3高速顯存,通過(guò)NVLINK®, GPU間互聯(lián)帶寬高達(dá)400GB/s。將AI算力提升了3.44倍,至高可達(dá)32P FLOPS AI算力。NVIDIA H800 GPU匹配第四代Tensor Core配合Transformer引擎(FP8精度),與上一代產(chǎn)品相比,可為大模型AI訓(xùn)練速度帶來(lái)高達(dá)9倍提升,可將大模型AI推理速度提升高達(dá)30倍。
●靈活架構(gòu)
聯(lián)想問(wèn)天WA7780 G3 AI大模型訓(xùn)練服務(wù)器, 為了滿(mǎn)足AI超大模型訓(xùn)練場(chǎng)景下,GPU服務(wù)器間高速數(shù)據(jù)通信的需求,支持IB、RoCE等多種對(duì)外網(wǎng)絡(luò)連接方案。最高可以支持8張RDMA高速網(wǎng)卡,提供3.2Tb/s聚合帶寬。充分滿(mǎn)足了超大模型訓(xùn)練并行計(jì)算時(shí),跨節(jié)點(diǎn)的通信需求。同時(shí),在本地存儲(chǔ)的設(shè)計(jì)上,采用了GPU Direct Storage (GDS) 技術(shù)。通過(guò)GDS技術(shù),GPU與NVMe實(shí)現(xiàn)了快速低延遲互聯(lián),能夠有效提高訓(xùn)練數(shù)據(jù)載入的速度,提升大模型訓(xùn)練的性能。
●節(jié)能高效
聯(lián)想問(wèn)天WA7780 G3 AI大模型訓(xùn)練服務(wù)器,在產(chǎn)品設(shè)計(jì)中采用了三重獨(dú)立風(fēng)道設(shè)計(jì),針對(duì)不同部件的散熱特征,進(jìn)行了系統(tǒng)性的優(yōu)化,有效降低了由風(fēng)扇帶來(lái)的散熱功耗。相比同級(jí)別產(chǎn)品,聯(lián)想問(wèn)天WA7780 G3 AI大模型訓(xùn)練服務(wù)器功耗降低約10%。同時(shí),為了滿(mǎn)足未來(lái)智算中心對(duì)PUE值更低的要求,本產(chǎn)品預(yù)留了液冷冷板設(shè)計(jì),未來(lái)將支持液冷,這將大幅度節(jié)省在AI大模型訓(xùn)練過(guò)程中,因系統(tǒng)散熱帶來(lái)的額外能耗,PUE值有望低于1.1。
聯(lián)想問(wèn)天WA5480G3AI訓(xùn)推一體服務(wù)器:多元豐富,穩(wěn)定可靠
從機(jī)器視覺(jué)、推薦系統(tǒng),自然語(yǔ)言處理,再到更為復(fù)雜的AI大模型,不同AI應(yīng)用場(chǎng)景對(duì)于AI服務(wù)器有著不同要求。本次發(fā)布會(huì)一同亮相的聯(lián)想問(wèn)天WA5480 G3 AI訓(xùn)推一體服務(wù)器,是聯(lián)想問(wèn)天品牌中的一款4U機(jī)架式AI服務(wù)器,支持多元的算力和豐富的生態(tài),能夠?yàn)锳I模型的訓(xùn)練推理提供極致可靠的算力,加速人工智能在千行百業(yè)的落地,從而推動(dòng)各行業(yè)乃至整個(gè)社會(huì)的智能化變革進(jìn)程。
●多元算力
聯(lián)想問(wèn)天WA5480 G3 AI訓(xùn)推一體服務(wù)器采用2顆第四代英特爾®至強(qiáng)®可擴(kuò)展處理器,支持最新PCIe 5.0。通過(guò)PCIe擴(kuò)展,最多可以支持10張包括最新NVIDIA H800 GPU在內(nèi)的,多類(lèi)型、多品牌AI加速卡。可以靈活應(yīng)用于AI通用模型訓(xùn)練、大模型推理、AI生成、云游戲、科學(xué)計(jì)算等多種應(yīng)用場(chǎng)景,為AI的多樣場(chǎng)景提供多元算力。
●靈活拓?fù)?/p>
聯(lián)想問(wèn)天WA5480 G3 AI訓(xùn)推一體服務(wù)器在CPU-GPU互聯(lián)的硬件設(shè)計(jì)上也充分體現(xiàn)了靈活多變的設(shè)計(jì)理念。聯(lián)想問(wèn)天WA5480 G3 AI訓(xùn)推一體服務(wù)器基于不同AI工作負(fù)載,可以為客戶(hù)提供包括直通、Balance、Common多種CPU-GPU互聯(lián)方式,避免了因?yàn)镃PU-GPU數(shù)據(jù)通信方式單一與工作負(fù)載不匹配,帶來(lái)的潛在性能瓶頸和系統(tǒng)效率下降。結(jié)合不同種類(lèi),不同數(shù)量的加速卡選擇,真正實(shí)現(xiàn)了對(duì)AI各種復(fù)雜場(chǎng)景的完美匹配。
●極致可靠
聯(lián)想問(wèn)天WA5480 G3 AI訓(xùn)推一體服務(wù)器充分考慮了設(shè)計(jì)冗余,為AI算力提供了安全穩(wěn)定的運(yùn)行環(huán)境。支持電源N+N冗余,節(jié)點(diǎn)內(nèi)電源間互為備份,對(duì)外可以連接雙路市電,保障服務(wù)器24小時(shí)在線運(yùn)行。支持CPU、GPU、內(nèi)存等關(guān)鍵部件的功耗監(jiān)測(cè),整機(jī)功耗封頂調(diào)控,動(dòng)態(tài)保障服務(wù)器運(yùn)行在合理的功耗區(qū)間,保證性能的穩(wěn)定,以及風(fēng)扇N+1冗余等多種安全設(shè)計(jì)保障高環(huán)溫?zé)o間斷運(yùn)行。
這兩款A(yù)I服務(wù)器新品是“聯(lián)想問(wèn)天”品牌家族重要的組成部分,傳承了聯(lián)想服務(wù)器高性能、高可靠、高擴(kuò)展、低功耗“三高一低”的特性,具備“本地創(chuàng)新、敏捷高效”的品牌內(nèi)涵。未來(lái),聯(lián)想問(wèn)天WA7780 G3 AI大模型訓(xùn)練服務(wù)器和聯(lián)想問(wèn)天WA5480 G3 AI訓(xùn)推一體服務(wù)器將與聯(lián)想其它AI基礎(chǔ)設(shè)施產(chǎn)品組合多向賦能,助力AI算力覆蓋AI全域應(yīng)用。同時(shí),配合聯(lián)想領(lǐng)先的液冷技術(shù),聯(lián)想AI導(dǎo)向的算力基礎(chǔ)設(shè)施,將持續(xù)助力AI算力綠色賦能,為普慧算力鑄造牢固的“基石”。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 )