8月21日至23日,由Linux基金會、云原生計算基金會(CNCF)聯(lián)合主辦的全球頂級開源盛會KubeCon + CloudNativeCon + Open Source Summit + AI_Dev China 2024, 在中國中國香港盛大舉行。作為全球云原生企業(yè)的先鋒,同時也是開源理念的忠實推動者,華為重磅參會,攜手云原生開源項目十多位技術大咖,帶來實踐分享、案例剖析、前瞻探索等一系列干貨,為全球開源開發(fā)者奉上一場技術盛宴。
云原生與AI融合持續(xù)深化, 華為推動全球智能化新浪潮
“從2023年開始,AI再次爆發(fā),云原生進入AI算力階段,CNCF基金會推出了Cloud native AI 工作組,開始給出了云原生AI的參考架構。”任旭東表示,開放正讓云原生和AI兩大技術方向逐漸走向融合,從Cloud Native for AI和AI for Cloud Native 兩個方向雙向演進。
華為首席開源聯(lián)絡官 CNCF基金會董事 任旭東
●華為Cloud Native for AI實踐
近年來,華為云陸續(xù)開源了KubeEdge、Volcano、Karmada等項目,受到業(yè)界的廣泛關注支持及落地使用。例如,彭博社旗艦產(chǎn)品彭博終端采用了Karmada來管理多個數(shù)據(jù)中心的計算資源,大幅提高計算資源的利用率、增強業(yè)務敏捷性。而Bilibili使用了Volcano作為AI/Big Data/編解碼任務的調度器進行作業(yè)和資源管理,提升了AI訓練任務效率,大幅降低了Job的更新頻率,提高了視頻編解碼任務的吞吐量。
●華為AI for Cloud Native實踐
華為持續(xù)開源創(chuàng)新,與全球云原生社區(qū)共同發(fā)展。作為中國生態(tài)領先的開源AI框架MindSpore,基于MindSpore的LLMOps為云原生帶來更多創(chuàng)新。同時,作為目前中國領先的開源服務器操作系統(tǒng),openEuler帶來了與AI結合的全新智能方案升級,大模型智能體EulerCopilot為操作系統(tǒng)開發(fā)運維帶來全新智能體驗,而智能操作系統(tǒng)進一步使能云原生的全面創(chuàng)新。
在現(xiàn)場,任旭東宣布openEuler開源社區(qū)與CNCF基礎設施團隊合作、基于openEuler的CNCF CI/CD已經(jīng)正式上線,將為CNCF開發(fā)者帶來更多的OS選擇及更多算力資源,為CNCF社區(qū)帶來更加智能的基礎設施,并鼓勵CNCF社區(qū)項目體驗。
未來無法預測,但可以被創(chuàng)造,任旭東表示:“一方面,CloudNative For AI ,從訓練走向推理,我們堅信云原生是AI的最佳底座,必將加速AI的應用創(chuàng)新。另一方面,AI For CloudNative,AI將從Devops到LLMOPS,使能云原生開發(fā)新范式,加速云原生行業(yè)落地。”
驅動變革,云原生技術加速行業(yè)創(chuàng)新升級
會上,華為云云原生開源負責人王澤鋒聯(lián)合蔚來汽車戰(zhàn)略新業(yè)務數(shù)字系統(tǒng)架構師蔣旭輝發(fā)表“云原生技術加速電動汽車創(chuàng)新”主題演講,深入探討云原生技術在汽車軟件領域中的轉變影響和未來前景。
王澤鋒提到了云原生技術在各行各業(yè)軟件應用構建中的技術與生態(tài)雙重優(yōu)勢,并與蔚來汽車的架構師聯(lián)合講解了以KubeEdge為核心構建蔚來整套車云協(xié)同平臺的產(chǎn)業(yè)代表方案,該方案首次搭載于量產(chǎn)車型,是云原生生態(tài)領域中一次全新的嘗試,為車企帶來開發(fā)交付效率、團隊協(xié)作等方面的巨大提升。
華為云云原生開源負責人 王澤鋒
開源創(chuàng)新促進了行業(yè)解決方案的升級與快速落地,幫助企業(yè)實現(xiàn)敏捷開發(fā)和高效運營,開源社區(qū)的活躍交流也為企業(yè)提供了豐富的技術支持和資源共享,為行業(yè)帶來了新的發(fā)展機遇和競爭優(yōu)勢,云原生技術正深入應用于各行各業(yè)。本次大會上,華為云云原生多個開源社區(qū),聯(lián)合伙伴帶來行業(yè)案例分享,共同探索云原生開源技術發(fā)展與產(chǎn)業(yè)智能化升級。
多領域技術分享,與業(yè)界共探前沿科技
Kuasar社區(qū)負責人和WasmEdge社區(qū)Committer進行了“使用WasmEdge和Kuasar在Kubernetes上部署LLM工作負載”主題演講,分享在Kubernetes集群里運行大模型負載的實踐,解決了大模型應用開發(fā)和部署的兩個痛點問題,一方面是通過WebAssembly技術解決傳統(tǒng)PyTorch復雜依賴和跨平臺兼容性問題,另一方面Kubernetes集群提供豐富的打包部署、資源管理、自動擴縮容、監(jiān)控運維和服務發(fā)現(xiàn)能力,這些都將提高大模型應用的開發(fā)效率,加速云原生與AI生態(tài)的融合發(fā)展。
Kuasar社區(qū)負責人(華為云)和WasmEdge社區(qū)Committer演講中
同時,Kuasar社區(qū)Maintainer和Containerd 社區(qū)Maintainer共同分享了Sandbox沙箱在云原生領域的發(fā)展歷程與前沿實現(xiàn),社區(qū)圍繞Sandbox概念衍生發(fā)展出了一套新的API,Kuasar作為首個API實現(xiàn)者,已經(jīng)構建出基于MicroVM、App kernel、WebAssembly和runC等形式的Sandbox容器,可以在輕量級安全容器、公有云遠程Sandbox以及基于wasm運行LLM推理場景下發(fā)揮著巨大的架構優(yōu)勢。本次大會期間,社區(qū)同步正式發(fā)布v1.0.0版本。
KubeEdge社區(qū)技術專家分享了KubeEdge 在多個行業(yè)和場景中的用戶案例展示,結合智能交通、智慧城市、智慧園區(qū)、智能能源、智能工廠、智能銀行、智能工地、CDN等一系列行業(yè)用例,探討KubeEdge與行業(yè)特定用例的關系。在當前用戶愈加關心云原生安全的趨勢下,來自華為云云原生團隊的KubeEdge社區(qū)專家們也聯(lián)合社區(qū)伙伴,帶來云原生邊緣計算場景中的安全威脅模型分析和保護實踐等安全話題的技術分享。社區(qū)技術專家也進一步介紹了KubeEdge技術和社區(qū)治理方面的進展,未來,社區(qū)也將繼續(xù)探索賦能多領域、多場景邊云協(xié)同AI智算。
Volcano云原生批量計算社區(qū)在本次大會上帶來了利用拓撲建模和拓撲感知調度加速LLM訓練、Volcano 激活下一波智能應用、通過Volcano增強的智能基礎設施優(yōu)化LLM工作流程等云原生AI領域的熱門話題分享,同時社區(qū)專家與調度領域技術專家深入研討Kubernetes調度社區(qū)碎片化現(xiàn)狀及如何應對AI/ML工作負載帶來的挑戰(zhàn)。作為業(yè)界首個云原生批量計算引擎,Volcano由華為云發(fā)起,主要用于 AI、大數(shù)據(jù)、基因、渲染等諸多高性能計算場景,對主流通用計算框架均有很好的支持,目前在人工智能、大數(shù)據(jù)、基因測序等海量數(shù)據(jù)計算和分析場景已得到廣泛應用。
Karmada社區(qū)在本次大會上聯(lián)合社區(qū)伙伴,帶來1場Keynote主題演講并在7場相關分論壇中發(fā)表技術分享。其中,來自京東云和小紅書的Karmada用戶伙伴,分別帶來京東云的大規(guī)模無服務器實踐(在Karmada上的應用管理和彈性擴展),小紅書利用多集群架構打造彈性和彈性混合云的落地實踐案例分享。Karmada社區(qū)負責人與技術專家向參會者們分享了項目最新進展,并帶來使用Karmada和PipeCD解鎖可擴展性并簡化多云管理,Karmada和Istio提高生產(chǎn)分布式云負載與流量韌性等多個議題分享。社區(qū)同時與多位云原生多集群領域專家展開SIG-Multicluster、開發(fā)標準的多集群Inventory API等深入探討,為與會者帶來多集群領域的嶄新觀點與啟發(fā)。
華為服務治理專家在本屆大會上帶來4場服務治理技術演講,探討Istio 數(shù)據(jù)平面架構創(chuàng)新帶來的全新性能體驗, Karmada 和 Istio 提高生產(chǎn)分布式云負載與流量的韌性,服務網(wǎng)格的未來是邊車還是無邊車,用內核原生無邊車架構徹底改變服務網(wǎng)格等流量治理前沿話題。團隊重點介紹了Kmesh內核級流量治理引擎給服務治理帶來的創(chuàng)新升級,期望借助在Istio社區(qū)長期的積累,打造Sidecarless服務網(wǎng)格業(yè)界標桿方案,促進服務網(wǎng)格健康有序的發(fā)展。
昇思MindSpore布道師Selina發(fā)表了《提升大模型開發(fā)和訓練效率:昇思MindSpore自動并行技術應用詳解》的主題演講,深入淺出講解了昇思MindSpore如何通過自動并行技術,顯著提高大模型的開發(fā)和訓練效率,為AI創(chuàng)新使能加速的實踐。
同時,10個云原生、明星開源項目(KubeEdge、Volcano、Karmada、Kuasar、Kmesh、Sermant、開發(fā)者計劃、昇思MindSpore、openEuler、openGauss)的參展,不僅彰顯了華為在云原生、開源技術領域的深厚實力,也吸引了現(xiàn)場全球開發(fā)者的駐足交流體驗。
華為展區(qū)精彩瞬間
未來,華為將繼續(xù)與全球企業(yè)和開發(fā)者攜手,共同應對當前的挑戰(zhàn),推動AI和云原生技術的創(chuàng)新與應用,為構建全球智能化的未來貢獻力量。
(免責聲明:本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產(chǎn)權或存在不實內容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。 )