專家解讀：從傳統(tǒng)數(shù)據(jù)中心到智算中心的三大根本差異

每一次技術革新都引領產業(yè)進入全新的時代，互聯(lián)網(wǎng)的出現(xiàn)實現(xiàn)了全球的互聯(lián)互通，云計算普及讓萬物“上云”，而今，生成式AI的浪潮，正帶來下一場顛覆性變革：智能算力需求持續(xù)增長，芯片與服務器呈現(xiàn)更高功率、更高算效，傳統(tǒng)數(shù)據(jù)中心向智算中心轉變。

右二：中國信息與通信研究院產業(yè)與規(guī)劃研究所副總工程師王青；右一：京東云裸金屬產品研發(fā)負責人徐梓耀

日前，在中國IDC圈與京東云聯(lián)合主辦的“京東云直播活動——智算專場”迎來第二場直播：【大模型時代，我們需要什么樣的智算中心？】，中國信息與通信研究院產業(yè)與規(guī)劃研究所副總工程師王青與京東云裸金屬產品研發(fā)負責人徐梓耀兩位嘉賓，帶來大模型時代的算力新需求、智算中心特點、軟硬件及運維新需求等分享。

大模型時代 算力新需求

圖文生成、無人駕駛……ChatGPT橫空出世至今不到兩年的時間，大模型已經(jīng)從實驗室走到產業(yè)化，背后離不開算力支持。

業(yè)界戲言“無算力不模型”。在直播中，中國信息與通信研究院產業(yè)與規(guī)劃研究所副總工程師王青分析，大模型帶來的算力需求變化主要體現(xiàn)在規(guī)模、性能和異構性等方面。

首先，大模型的參數(shù)規(guī)模與對算力的消耗成正比，參數(shù)規(guī)模越大，對算力的需求越大，隨著大模型參數(shù)量從千億邁向萬億，未來萬卡集群成為新一輪大模型基建賽道競爭的配置。

其次，大模型對算力性能的提升需求迫切，包括：①加速芯片和微架構創(chuàng)新等使得芯片能支撐更高精度的計算和更復雜的算法，提升大模型訓練效率。②智算中心部署層級分為芯片級、單服務器節(jié)點級、多服務器集群級，大模型發(fā)展對智能算力擴展性提出高要求，多以服務器單點或集群模式部署以提供并行計算能力。③軟件優(yōu)化，通過強化大模型加速庫能力建設，向用戶提供高效編程接口、優(yōu)化編譯器等工具，提升算力效率和性能。

最后，隨著大模型應用不斷拓展，對異構算力的需求也日益增加，并且涵蓋GPU、CPU、NPU等多種芯片類型、多種算力類型，以及國內外芯片結合等多樣化算力需求。

京東云裸金屬產品研發(fā)負責人徐梓耀通過對芯片、服務器、多服務器集群三個層級的分析，指出：智算服務的本質是利用IDC中的“分布式智能計算”環(huán)境，通過“互聯(lián)網(wǎng)”為客戶提供“本地化體驗”的“智能計算服務”能力。

從傳統(tǒng)數(shù)據(jù)中心到智算中心大不同

大模型帶來算力需求變化的背景下，以通用算力為主的算力格局迎來改變，智能算力成為增長主力，作為算力的物理承載，傳統(tǒng)數(shù)據(jù)中心也向智算中心演變。

與傳統(tǒng)數(shù)據(jù)中心相比，智算中心有何不同？

王青與徐梓耀兩位嘉賓一致認為，主要集中在計算、網(wǎng)絡和存儲三方面。

王青認為，大模型參數(shù)量和訓練數(shù)據(jù)復雜性快速增長，對AI算力平臺的建設提出了新的要求，即需要從數(shù)據(jù)中心規(guī)?；懔Σ渴鸬慕嵌?，統(tǒng)籌考慮大模型分布式訓練對于計算、網(wǎng)絡和存儲的需求特點，并集成平臺軟件、結合應用實踐，充分關注數(shù)據(jù)傳輸、任務調度、并行優(yōu)化、資源利用率等，設計和構建高性能、高速互聯(lián)、存算平衡可擴展集群系統(tǒng)，以滿足AI大模型的訓練需求。整體來看，智算基礎設施的部署涉及計算、網(wǎng)絡、存儲三大維度的橫向協(xié)同，也需要兼顧軟件平臺與硬件資源的縱向協(xié)同。

徐梓耀表示，對于智算在計算、網(wǎng)絡、存儲三方面的變化，京東云都有相應產品與解決方案滿足。

第一，在計算方面，智算服務對IDC機柜的配電要求更高，需要進行定制改造滿足不同AI服務器的需求。

“阿爾法”T系列（風液型）智能算力模塊

為此，京東云推出 “阿爾法”T系列（風液型）與L系列（液冷型）兩種智能算力模塊，分別可滿足算力密度20-50kW/柜與20-100kW/柜以上數(shù)據(jù)中心部署需求。智能算力模塊均采用預制化模式，最快45天交付，支持47U-60U。其中L系列采用全預制化+冷板液冷系統(tǒng)，液冷機柜、CDU及室外冷卻設備等配置完善，可支持最高100KW/機柜功率密度。

第二，在網(wǎng)絡方面，智算服務要支持百億、千億甚至萬億參數(shù)的深度學習大模型，對數(shù)據(jù)中心網(wǎng)絡提出更高定制要求，除以太網(wǎng)外，支持RDMA能力的高速無損IB網(wǎng)絡或RoCE網(wǎng)絡是強需。

他介紹，京東提供算力網(wǎng)絡定制服務能力，H100/H800卡建議使用400G IB網(wǎng)絡，機器8張400G IB網(wǎng)絡滿配；A100/A800 卡建議使用200G網(wǎng)絡，IB或者RoCe都可以。

第三，在存儲方面，智算服務需要海量的訓練數(shù)據(jù)，對數(shù)據(jù)中心的存儲系統(tǒng)也提出定制需求，高性能的共享存儲也成為標配。

京東自研的存算分離的分布式存儲系統(tǒng)——云海，屏蔽底層存儲的異構（支持國產），實現(xiàn)數(shù)據(jù)的同意存儲與管理，EB級存儲容量、萬億級可管理的文件數(shù)量，適配國產服務器。云海有兩種產品形態(tài)，公有云上為云海統(tǒng)一平臺，也提供私有化部署云海存儲一體機。

此外，徐梓耀還介紹了京東云融合智算服務，以及滿足智算中心綠色節(jié)能低碳運維需求的智能精維平臺。平臺分硬件節(jié)能與運維節(jié)能兩個層面，其中運維節(jié)能的相關產品——節(jié)能寶，能將傳統(tǒng)數(shù)據(jù)中心能耗降低15%左右，節(jié)能效果十分客觀。

當天直播中，王青與徐梓耀兩位嘉賓還圍繞智算中心主要用戶與應用場景、智算格局與未來發(fā)展、通用數(shù)據(jù)中心的改造等話題，帶來了深入分析與內容分享。

生成海報

免責聲明：本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。