近日,專(zhuān)注IaaS的產(chǎn)品化云廠商ZStack與領(lǐng)先的AI算力資源池化軟件公司趨動(dòng)科技(VirtAITech.com)宣布,推出提供AI算力資源池化功能的聯(lián)合解決方案,該方案融合了ZStack Cloud云平臺(tái)與趨動(dòng)科技OrionX,雙方產(chǎn)品優(yōu)勢(shì)互補(bǔ),共同推動(dòng)GPU資源池在私有云平臺(tái)落地,將新一代的算力云平臺(tái)推向更廣泛的市場(chǎng)!新基建浪潮下,AI、5G、大數(shù)據(jù)中心、工業(yè)互聯(lián)網(wǎng)等一起構(gòu)成了新基建的核心領(lǐng)域。AI將逐步滲透到各行業(yè),變得越來(lái)越“基礎(chǔ)設(shè)施化”,AI加速器市場(chǎng)及GPU服務(wù)器市場(chǎng)規(guī)模相應(yīng)水漲船高,以GPU、FPGA 等為主的AI加速器市場(chǎng)將迅猛發(fā)展。IDC發(fā)布的《人工智能基礎(chǔ)架構(gòu)市場(chǎng)(2019下半年)跟蹤》報(bào)告數(shù)據(jù)顯示:到2024年,中國(guó)GPU 服務(wù)器市場(chǎng)規(guī)模將達(dá)到64億美元。
GPU資源池化技術(shù)難點(diǎn)
AI產(chǎn)業(yè)的快速發(fā)展對(duì)GPU資源池化技術(shù)提出了更高要求,用戶(hù)希望獲得靈活調(diào)度GPU資源的能力,希望AI應(yīng)用與GPU服務(wù)器解耦,并且能夠遠(yuǎn)程調(diào)用GPU的資源,通過(guò)資源池優(yōu)化GPU的調(diào)度使用等。然而現(xiàn)階段大部分用戶(hù)使用GPU的方式仍然停留在簡(jiǎn)單的虛擬化階段:將GPU卡做固定切分,按照2的N次方切分為多個(gè)vGPU。在此情況下,傳統(tǒng)云平臺(tái)上使用GPU將面臨諸多技術(shù)問(wèn)題,比如無(wú)法遠(yuǎn)程調(diào)用GPU卡、僅能整卡透?jìng)鹘o虛機(jī)、多虛機(jī)無(wú)法共用單張GPU卡、GPU資源釋放必須重啟虛機(jī)等問(wèn)題。
提供AI算力資源池化功能的解決方案
OrionX提供GPU資源池化功能,是ZStack Cloud在GPU調(diào)度上的功能補(bǔ)充,可以靈活調(diào)用虛擬GPU資源,使得用戶(hù)可以在私有云和混合云的環(huán)境中靈活使用GPU資源,幫助用戶(hù)數(shù)據(jù)中心中的所有硬件資源實(shí)現(xiàn)云化管理。
典型應(yīng)用場(chǎng)景
大模型如訓(xùn)練場(chǎng)景,對(duì)算力資源需求量大,通常會(huì)使用一張或者多張GPU卡資源,構(gòu)建AI算力資源池,提供AI算力資源池化功能的解決方案既可以支持單臺(tái)服務(wù)器上的單卡,多卡訓(xùn)練,也可以支持跨設(shè)備的多卡訓(xùn)練。
小模型如推理、開(kāi)發(fā)和教學(xué)實(shí)訓(xùn)等場(chǎng)景,對(duì)算力資源需求量小,通常不能占滿(mǎn)一張GPU卡資源。提供AI算力資源池化功能的解決方案可以從算力和顯存兩個(gè)維度切分GPU,支持將多個(gè)小模型任務(wù)調(diào)度到一張卡,有效提高資源利用率。
具體表現(xiàn)為:通過(guò)“化零為整”功能支持訓(xùn)練等大模型場(chǎng)景,為用戶(hù)的 AI 應(yīng)用提供數(shù)據(jù)中心級(jí)的海量算力。通過(guò)“隔空取物”功能,支持推理、開(kāi)發(fā)和教學(xué)實(shí)訓(xùn)等小模型場(chǎng)景。通過(guò)“隨需應(yīng)變”功能支持訓(xùn)練/推理等多場(chǎng)景實(shí)現(xiàn) GPU 資源動(dòng)態(tài)伸縮,極大提升了GPU 資源調(diào)度的靈活度。
提供AI算力資源池化功能的解決方案發(fā)布后,基于ZStack Cloud構(gòu)建企業(yè)私有云的用戶(hù),可以暢享快速按需獲取GPU、靈活彈性調(diào)度等功能,有效提高了GPU利用率并降低用戶(hù)整體擁有成本。
ZStack創(chuàng)始人&CEO張?chǎng)伪硎荆?ldquo;GPU虛擬化是推動(dòng)私有云落地AI場(chǎng)景的關(guān)鍵舉措,未來(lái)雙方將緊密合作,實(shí)現(xiàn)算力的平民化,推動(dòng)AI計(jì)算無(wú)處不在。“
趨動(dòng)科技創(chuàng)始人&CEO王鯤博士稱(chēng)贊道:“ZStack與OrionX的聯(lián)合解決方案為用戶(hù)提供了更大的價(jià)值和更加靈動(dòng)的任務(wù)處理能力,加速推動(dòng)AI計(jì)算在私有云領(lǐng)域落地,助力行業(yè)客戶(hù)聚焦自身業(yè)務(wù)發(fā)展與創(chuàng)新。”
關(guān)于ZStack
ZStack(云軸科技)由阿里云、中國(guó)電信戰(zhàn)略投資并戰(zhàn)略合作,是一家自主創(chuàng)新、專(zhuān)注產(chǎn)品化的云計(jì)算公司,以“降低企業(yè)上云門(mén)檻”為使命、“讓每一家企業(yè)都擁有自己的云”為愿景,具備自主知識(shí)產(chǎn)權(quán)、自主開(kāi)源云代碼、自主云平臺(tái)三大優(yōu)勢(shì)。憑借自研的ZStack Cloud、ZStack Mini、ZStack CMP、ZStack Cube、ZStack Ceph等產(chǎn)品,積極支持信創(chuàng)發(fā)展,全面適配信創(chuàng)生態(tài),并最早提出云計(jì)算的4S特性,注重產(chǎn)品化,普惠云計(jì)算。歷經(jīng)多年發(fā)展,ZStack客戶(hù)數(shù)和銷(xiāo)售額逐年倍數(shù)增長(zhǎng),服務(wù)全球30多個(gè)國(guó)家和地區(qū)、100個(gè)行業(yè)場(chǎng)景、1200家客戶(hù)。面向新基建和信創(chuàng)發(fā)展契機(jī),ZStack聚焦IaaS,攜手阿里云、天翼云、飛騰、龍芯、華為、曙光、長(zhǎng)城、安恒、麒麟軟件、統(tǒng)信軟件等200多家合作伙伴,共同為政府、電信、能源、交通、教育、制造業(yè)、醫(yī)療、金融、廣電、互聯(lián)網(wǎng)等眾多行業(yè)客戶(hù)提供安全可信的云產(chǎn)品和服務(wù)。
關(guān)于趨動(dòng)科技
趨動(dòng)科技于2019年成立于北京中關(guān)村高新技術(shù)園區(qū),擁有專(zhuān)業(yè)的研發(fā)、運(yùn)營(yíng)和服務(wù)團(tuán)隊(duì)。趨動(dòng)科技榮登WISE2020「新基建創(chuàng)業(yè)榜」最具成長(zhǎng)性創(chuàng)業(yè)公司TOP20,趨動(dòng)科技的OrionX獵戶(hù)座AI算力資源池化解決方案榮獲“2020新基建與行業(yè)創(chuàng)新應(yīng)用優(yōu)秀解決方案”、“2020智慧高校解決方案卓越獎(jiǎng)”和“2020金麒杯年度金融行業(yè)最佳解決方案服務(wù)商”。趨動(dòng)科技致力于幫助客戶(hù)構(gòu)建高效的AI算力資源池,提升客戶(hù)AI運(yùn)維管理的效率和AI業(yè)務(wù)應(yīng)用的效率。根據(jù)客戶(hù)測(cè)算,OrionX獵戶(hù)座軟件可以每年提升50%的AI算法工程師人效、提升AI資源利用率3到8倍更適合、讓客戶(hù)總體擁有成本下降80%。憑借標(biāo)準(zhǔn)化、可復(fù)制的產(chǎn)品架構(gòu),OrionX獵戶(hù)座軟件得到了包括互聯(lián)網(wǎng)、金融、電信運(yùn)營(yíng)商和高校等大量行業(yè)頭部客戶(hù)的認(rèn)可。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 )