近日,基于龍蜥技術(shù)路線打造的商業(yè)版服務(wù)器操作系統(tǒng)KeyarchOS(簡(jiǎn)稱KOS)與搭載最新至強(qiáng)®6處理器的元腦服務(wù)器第八代新品(簡(jiǎn)稱元腦服務(wù)器)進(jìn)行了深度優(yōu)化,服務(wù)器性能顯著提升。Unixbench 綜合測(cè)試結(jié)果顯示,在KOS的加持下,元腦服務(wù)器充分發(fā)揮新一代平臺(tái)的特性優(yōu)勢(shì),綜合性能提升29%。UnixBench是一個(gè)標(biāo)準(zhǔn)化的基準(zhǔn)測(cè)試工具,被廣泛用于測(cè)試Linux系統(tǒng)主機(jī)的性能,其測(cè)試結(jié)果取決于硬件及系統(tǒng)的綜合表現(xiàn)。
龍蜥商業(yè)版KOS與元腦服務(wù)器深度優(yōu)化促進(jìn)性能提升
元腦服務(wù)器支持最新一代至強(qiáng)®6處理器,基于先進(jìn)的計(jì)算、存儲(chǔ)架構(gòu)創(chuàng)新,增加了針對(duì)AI和深度學(xué)習(xí)方面的先進(jìn)指令集,在CPU總線互聯(lián)帶寬、內(nèi)存帶寬及容量上全面優(yōu)化,具備更全面的智能能力和更高能效,可更好支撐AI大模型開發(fā)與應(yīng)用創(chuàng)新。
作為國(guó)內(nèi)首個(gè)支持至強(qiáng)®6的商業(yè)發(fā)行版操作系統(tǒng),KOS針對(duì)至強(qiáng)®6處理器的特性及新指令集進(jìn)行全面的適配與優(yōu)化,充分釋放處理器的內(nèi)核性能優(yōu)勢(shì),服務(wù)器整體性能提升29%,數(shù)據(jù)傳輸性能提升2.75倍,能效提升10%,同等條件下操作系統(tǒng)能效最優(yōu),并在智能運(yùn)維、大模型部署效率等方面全面增強(qiáng)。
算力需求快速增長(zhǎng)推動(dòng)服務(wù)器操作系統(tǒng)升級(jí)
AIGC時(shí)代,大模型的訓(xùn)練和推理需要大量的算力資源支撐,帶動(dòng)算力需求增長(zhǎng)。算力提升不僅需要處理器、加速器、內(nèi)存等硬件的升級(jí)換代,還要在操作系統(tǒng)層面對(duì)硬件進(jìn)行適配優(yōu)化。
首先,操作系統(tǒng)要確保硬件特性充分發(fā)揮,避免性能損耗。以元腦服務(wù)器為例,單機(jī)核心數(shù)最多到576C,全面應(yīng)用CXL2.0,支持DDR5內(nèi)存……這些關(guān)鍵部件更新在提升處理能力的同時(shí),某些情況下也會(huì)帶來(lái)偽共享及鎖競(jìng)爭(zhēng)、二級(jí)緩存過載等問題,需要在操作系統(tǒng)層面進(jìn)行適配優(yōu)化。同時(shí),高性能往往帶來(lái)高能耗,而能耗增加將導(dǎo)致更高的運(yùn)營(yíng)成本,操作系統(tǒng)需要與硬件適配進(jìn)一步增強(qiáng)能耗管理水平。
其次,操作系統(tǒng)要能兼容適配各類新型設(shè)備。隨著產(chǎn)品的不斷迭代,服務(wù)器已經(jīng)是一個(gè)復(fù)雜程度超出想象的系統(tǒng)。一臺(tái)服務(wù)器包含50余種模塊,元器件數(shù)量超過10000顆,這些元器件大部分需要通過操作系統(tǒng)的兼容性認(rèn)證。同時(shí),數(shù)據(jù)中心層面各類服務(wù)器、存儲(chǔ)、網(wǎng)絡(luò)等設(shè)備間的互連互通,也離不開操作系統(tǒng)的支持。
此外,操作系統(tǒng)還要為服務(wù)器智能化升級(jí)提供支持。作為最新一代服務(wù)器產(chǎn)品,元腦服務(wù)器實(shí)現(xiàn)了全面的智能增強(qiáng),從服務(wù)器自身智能運(yùn)維管理,到快速構(gòu)建大模型開發(fā)環(huán)境,再到智能應(yīng)用部署,這些智能化能力背后,需要更加智能的操作系統(tǒng)以及AI軟件堆棧的幫助。
KOS+元腦服務(wù)器 軟硬協(xié)同釋放全面性能
面對(duì)各類AI應(yīng)用及復(fù)雜的硬件環(huán)境,KOS與元腦服務(wù)器進(jìn)行深度優(yōu)化,提高數(shù)據(jù)處理能力和系統(tǒng)性能,實(shí)現(xiàn)CPU調(diào)度優(yōu)化及更加靈活高效的電源管理。KOS全面適配至強(qiáng)®6處理器先進(jìn)指令集,讓元腦服務(wù)器能應(yīng)對(duì)復(fù)雜計(jì)算要求,提升數(shù)據(jù)處理效率;同時(shí),KOS將相關(guān)計(jì)數(shù)器更改為每個(gè)CPU獨(dú)立計(jì)數(shù)器,優(yōu)化更新方式,減少對(duì)全局計(jì)數(shù)器的更新需求,避免了鎖的爭(zhēng)用,提升系統(tǒng)的性能;KOS還優(yōu)化了對(duì)cluster調(diào)度的支持,使調(diào)度器在面向共享緩存的 CPU cluster調(diào)度任務(wù)時(shí)能夠做出最佳決策,實(shí)現(xiàn)CPU調(diào)度優(yōu)化。在能效管理方面,KOS引入對(duì) TPMI 的支持,通過 TPMI 接口的分層體系結(jié)構(gòu),解耦了不同 CPU 型號(hào)與電源管理驅(qū)動(dòng)的實(shí)現(xiàn)代碼,可以更細(xì)致地管理和優(yōu)化處理器的電源使用。
在系統(tǒng)兼容性方面,得益浪潮信息關(guān)鍵生態(tài)位優(yōu)勢(shì),KOS實(shí)現(xiàn)了與25+主流處理器、1200+板卡、400+數(shù)據(jù)庫(kù)中間件兼容適配,實(shí)現(xiàn)了業(yè)內(nèi)硬件部件最全兼容。通過對(duì)調(diào)度、內(nèi)存管理、IO、網(wǎng)絡(luò)等進(jìn)行優(yōu)化,UnixBench 綜合測(cè)試跑分提升29%,文件系統(tǒng)性能提升100%,MySQL數(shù)據(jù)庫(kù)性能提升16%,Redis性能提升60%。
在智能化方面,元腦服務(wù)器利用KOS提供的系統(tǒng)異常定位分析、系統(tǒng)性能調(diào)優(yōu)等工具,實(shí)現(xiàn)了高效、智能運(yùn)維,覆蓋了日常監(jiān)控、線上診斷和故障修復(fù)等常見運(yùn)維場(chǎng)景;通過預(yù)裝KOS AI定制版,元腦服務(wù)器簡(jiǎn)單2步即可實(shí)現(xiàn)大模型訓(xùn)練環(huán)境搭建,20分鐘即可完成200節(jié)點(diǎn)訓(xùn)練環(huán)境上線,極大提升了大模型開發(fā)部署效率;元腦服務(wù)器基于KOS新版本融入開箱即用的Yuan-Chat解決方案,實(shí)現(xiàn)了大模型應(yīng)用“開箱即用”,并具備智能問答、智能編程能力,提升用戶使用體驗(yàn)。
綜上,KOS與元腦服務(wù)器深度優(yōu)化適配,實(shí)現(xiàn)了新特性及新指令集在用戶處的“開箱即用”,提升系統(tǒng)智能化能力,降低運(yùn)維成本,滿足互聯(lián)網(wǎng)、金融、通信、能源、交通等行業(yè)用戶復(fù)雜多樣的AI應(yīng)用創(chuàng)新需求。
?
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )