浪潮信息推出全新元腦R1推理服務(wù)器：單機部署，輕松運行DeepSeek R1 671B模型
隨著人工智能技術(shù)的飛速發(fā)展，浪潮信息作為業(yè)界領(lǐng)先的信息技術(shù)供應(yīng)商，再次引領(lǐng)潮流，推出了一款全新的元腦R1推理服務(wù)器。這款產(chǎn)品以其卓越的性能和靈活性，為部署和運行DeepSeek R1 671B模型提供了全新的可能。
元腦R1推理服務(wù)器，以其卓越的系統(tǒng)創(chuàng)新和軟硬件的協(xié)同優(yōu)化，使得單機即可部署并運行DeepSeek R1 671B模型。這一創(chuàng)新性的舉措，大大降低了模型部署的復(fù)雜性和成本，同時也為人工智能的應(yīng)用場景開辟了新的可能性。
DeepSeek R1 671B模型作為一款全參數(shù)基礎(chǔ)大模型，具有強大的泛化能力，高準確性以及出色的上下文理解能力。然而，這款模型的運行也對系統(tǒng)的顯存容量、顯存帶寬、互連帶寬和延遲提出了更高的要求。在FP8精度下，至少需要約800GB顯存承載，而在FP16/BF16精度下，則需要1.4TB以上的顯存空間。
面對這樣的挑戰(zhàn)，元腦R1推理服務(wù)器NF5688G7展現(xiàn)出了其強大的實力。它原生搭載了FP8計算引擎，提供1128GB HBM3e顯存，能夠滿足671B模型在FP8精度下不低于800GB顯存容量的需求。在支持全量模型推理的情況下，該機仍保留了充足的KV緩存空間，其顯存帶寬可達4.8TB/s。此外，GPU P2P帶寬達到900GB/s，基于最新推理框架，單機可支持20-30用戶并發(fā)。
值得一提的是，單臺NF5688G7還配備了3200Gbps無損擴展網(wǎng)絡(luò)，可根據(jù)用戶業(yè)務(wù)需求增長實現(xiàn)敏捷擴展，提供R1服務(wù)器集群Turnkey解決方案。這一創(chuàng)新性的設(shè)計理念，充分展現(xiàn)了浪潮信息對于未來信息技術(shù)的深度理解和前瞻性規(guī)劃。
如果說NF5688G7是專為小型集群和高性能應(yīng)用而設(shè)計，那么NF5868G8則是一款專為大推理模型（Large Reasoning Model）設(shè)計的高吞吐推理服務(wù)器。這款設(shè)備業(yè)界首次實現(xiàn)單機支持16張標準PCIe雙寬卡，提供最高1536GB顯存容量，支持在FP16/BF16精度下單機部署DeepSeek 671B模型。
NF5868G8采用基于PCIe Fabric的16卡全互連拓撲，任意兩卡P2P通信帶寬可達128GB/s，降低通信延遲超60%。通過軟硬件的協(xié)同優(yōu)化，相較于傳統(tǒng)2機8卡PCIe機型，NF5868G8可將DeepSeek 671B模型推理性能提升近40%。這一創(chuàng)新性的設(shè)計理念和卓越的性能表現(xiàn)，無疑將為用戶提供更強大、更靈活、更高效的人工智能解決方案。
總的來說，浪潮信息的元腦R1推理服務(wù)器系列，以其強大的性能、靈活的配置和出色的擴展性，為人工智能應(yīng)用提供了全新的可能。無論是小型集群還是大型應(yīng)用，無論是基礎(chǔ)大模型還是高性能模型，元腦R1都能提供出色的支持和解決方案。未來，隨著人工智能技術(shù)的不斷發(fā)展，我們有理由相信，浪潮信息的元腦R1將會在更多的場景和領(lǐng)域中發(fā)揮出其卓越的性能，引領(lǐng)人工智能的發(fā)展進入新的篇章。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
