為滿足對(duì)企業(yè)級(jí)生成式AI日益增長(zhǎng)的需求，JFrog Platform集成了NVIDIA NIM，以提供GPU優(yōu)化的AI模型服務(wù)
2024年9月18日——流式軟件公司、JFrog軟件供應(yīng)鏈平臺(tái)的締造者JFrog(納斯達(dá)克股票代碼：FROG)，現(xiàn)已通過收購(gòu)Qwak AI將業(yè)務(wù)擴(kuò)展至涵蓋統(tǒng)一MLOps平臺(tái)，近期宣布與NVIDIA NIM微服務(wù)(NVIDIA AI Enterprise軟件平臺(tái)的一部分)進(jìn)行新的產(chǎn)品集成。將JFrog Artifactory模型注冊(cè)和NVIDIA NIM集成至JFrog Platform，有望實(shí)現(xiàn)在端到端軟件供應(yīng)鏈工作流中將GPU優(yōu)化、預(yù)獲批的AI模型與集中式DevSecOps流程相結(jié)合，使企業(yè)能夠以極快的速度將安全的機(jī)器學(xué)習(xí)(ML)模型和大語(yǔ)言模型(LLM)投入生產(chǎn)，并提高透明度、可追溯性和信任度。
JFrog戰(zhàn)略執(zhí)行副總裁Gal Marder表示：“隨著企業(yè)快速采用AI技術(shù)，落實(shí)確保效率和安全性的實(shí)踐，并以負(fù)責(zé)任的方式采用AI至關(guān)重要。通過NVIDIA NIM微服務(wù)，將DevOps、安全和MLOps流程集成至端到端軟件供應(yīng)鏈工作流中，客戶將能夠高效地將安全模型投入生產(chǎn)，同時(shí)在整個(gè)流水線中保持高度的可視性、可追溯性和可控性。”
隨著AI在軟件應(yīng)用中的興起和市場(chǎng)需求的快速增長(zhǎng)，數(shù)據(jù)科學(xué)家和ML工程師在企業(yè)環(huán)境中擴(kuò)展ML模型部署時(shí)面臨著多樣化的挑戰(zhàn)。碎片化的資產(chǎn)管理、安全漏洞、合規(guī)性問題和性能瓶頸，再加上將AI工作流與現(xiàn)有軟件開發(fā)流程集成的復(fù)雜性，以及在各種環(huán)境中靈活、安全部署的應(yīng)用需求，使問題變得更加復(fù)雜。這種復(fù)雜性的疊加可能導(dǎo)致部署周期漫長(zhǎng)且成本高昂，甚至許多情況下會(huì)導(dǎo)致AI應(yīng)用計(jì)劃的失敗。
NVIDIA企業(yè)戰(zhàn)略合作伙伴副總裁Pat Lee表示：“隨著企業(yè)擴(kuò)大生成式AI的部署規(guī)模，中央存儲(chǔ)庫(kù)可以幫助他們快速選擇和部署已獲準(zhǔn)開發(fā)的模型。將NVIDIA NIM微服務(wù)集成到JFrog Platform，可以幫助開發(fā)人員快速獲得完全合規(guī)、性能優(yōu)化的模型，并迅速投入生產(chǎn)。”
JFrog Artifactory提供了一種單一解決方案，該方案適用于存儲(chǔ)和管理整個(gè)軟件供應(yīng)鏈中使用的所有制品、二進(jìn)制文件、軟件包、文件、容器和組件。JFrog Platform與NVIDIA NIM的集成有望將容器化AI模型作為軟件包納入現(xiàn)有的軟件開發(fā)工作流。通過將NVIDIANGC(一個(gè)GPU優(yōu)化深度學(xué)習(xí)、ML和HPC模型的中心)與JFrog Platform和JFrog Artifactory模型注冊(cè)中心相結(jié)合，企業(yè)將能夠?yàn)樗熊浖虯I模型維護(hù)單一事實(shí)來(lái)源，同時(shí)利用企業(yè)DevSecOps最佳實(shí)踐來(lái)獲得對(duì)整體軟件供應(yīng)鏈的可視性、管理和控制。
JFrog Platform與NVIDIA NIM的集成有望帶來(lái)多項(xiàng)優(yōu)勢(shì)，包括
●統(tǒng)一管理：在JFrog Artifactory(作為模型注冊(cè)表)中，對(duì)所有資產(chǎn)(包括專有制品和開源軟件依賴項(xiàng))以及NIM微服務(wù)容器進(jìn)行集中訪問控制和管理，實(shí)現(xiàn)與現(xiàn)有DevSecOps工作流的無(wú)縫集成。
●全面的安全性和完整性：在開發(fā)的每個(gè)環(huán)節(jié)(包括容器和依賴項(xiàng))進(jìn)行持續(xù)掃描，通過JFrog審計(jì)和使用情況統(tǒng)計(jì)來(lái)提供對(duì)NIM微服務(wù)的上下文洞察，從而促進(jìn)合規(guī)性。
●卓越的模型性能和可擴(kuò)展性：利用NVIDIA加速計(jì)算基礎(chǔ)設(shè)施來(lái)優(yōu)化AI應(yīng)用性能，提供低延遲和高吞吐量，以便在大規(guī)模生產(chǎn)環(huán)境中實(shí)現(xiàn)具有可擴(kuò)展性的LLM部署。
●靈活部署：通過JFrog Artifactory提供靈活的部署選項(xiàng)，包括自托管、多云和離線部署選項(xiàng)。
###
關(guān)于JFrog
JFrog Ltd.(納斯達(dá)克股票代碼：FROG)的使命是創(chuàng)造一個(gè)從開發(fā)人員到設(shè)備之間暢通無(wú)阻的軟件交付世界。秉承“流式軟件”的理念，JFrog軟件供應(yīng)鏈平臺(tái)是統(tǒng)一的記錄系統(tǒng)，幫助企業(yè)快速安全地構(gòu)建、管理和分發(fā)軟件，確保軟件可用、可追溯和防篡改。集成的安全功能還有助于發(fā)現(xiàn)和抵御威脅和漏洞并加以補(bǔ)救。JFrog的混合、通用、多云平臺(tái)可以作為跨多個(gè)主流云服務(wù)提供商的自托管和SaaS服務(wù)。全球數(shù)百萬(wàn)用戶和7200多名客戶，包括大多數(shù)財(cái)富100強(qiáng)企業(yè)，依靠JFrog解決方案安全地開展數(shù)字化轉(zhuǎn)型。一用便知!如欲了解更多信息，請(qǐng)?jiān)L問jfrogchina.com或者關(guān)注我們的微信官方賬號(hào)：JFrog捷蛙。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
