昇思MindSpore 2.3全新發(fā)布，大模型開(kāi)發(fā)訓(xùn)推更簡(jiǎn)、更穩(wěn)、更高效

3月22日消息，人工智能框架作為軟件根技術(shù)，已成為加速人工智能大模型開(kāi)發(fā)、推動(dòng)產(chǎn)業(yè)智能化發(fā)展的核心力量。 以“為智而昇，思創(chuàng)之源”為主題的昇思人工智能框架峰會(huì)2024今日在北京國(guó)家會(huì)議中心舉辦，旨在匯聚AI產(chǎn)業(yè)界創(chuàng)新力量，推動(dòng)根技術(shù)持續(xù)創(chuàng)新，共建人工智能開(kāi)源新生態(tài)。

昇思MindSpore作為國(guó)內(nèi)主流開(kāi)源框架，打造充滿活力的開(kāi)發(fā)者社區(qū)，致力于推動(dòng)中國(guó)人工智能產(chǎn)業(yè)的進(jìn)步。近兩年包括昇思MindSpore在內(nèi)的開(kāi)源框架產(chǎn)品不斷發(fā)展，IDC的研究顯示，昇思MindSpore在生態(tài)建設(shè)方面取得優(yōu)異成績(jī)。

中國(guó)工程院院士、中國(guó)人工智能學(xué)會(huì)副理事長(zhǎng)何友在致辭中表示：中國(guó)人工智能學(xué)會(huì)與昇思MindSpore緊密合作，攜手鵬城實(shí)驗(yàn)室、昇思MindSpore開(kāi)展學(xué)術(shù)基金2.0項(xiàng)目，加速推動(dòng)基于昇思的原生學(xué)術(shù)創(chuàng)新及論文成果發(fā)表，發(fā)揮學(xué)術(shù)人才的原生力，結(jié)合昇思的技術(shù)原創(chuàng)力，以學(xué)術(shù)創(chuàng)新支撐人工智能產(chǎn)業(yè)繁榮。

華為ICT Marketing總裁周軍表示：AI框架的并行計(jì)算能力、簡(jiǎn)潔編程能力、便捷部署能力等，逐漸成為大模型訓(xùn)練的關(guān)鍵成功要素。昇思將持續(xù)創(chuàng)新探索，聚焦根技術(shù)，以更開(kāi)放的技術(shù)體系，讓伙伴和開(kāi)發(fā)者更靈活的實(shí)現(xiàn)大模型創(chuàng)新，加速大模型應(yīng)用規(guī)模落地。

2021年圖靈獎(jiǎng)獲得者、田納西大學(xué)計(jì)算機(jī)科學(xué)杰出教授Jack Dongarra分享了計(jì)算和框架的發(fā)展趨勢(shì)，他指出開(kāi)源本質(zhì)上有很多優(yōu)點(diǎn)，能切實(shí)地為未來(lái)提供更好的軟件基礎(chǔ)，開(kāi)發(fā)MindSpore開(kāi)源框架推動(dòng)了軟件性能提升。

AI for Science新范式，生成式AI賦能氣動(dòng)外形設(shè)計(jì)

中國(guó)科學(xué)院院士、中國(guó)空氣動(dòng)力學(xué)會(huì)理事長(zhǎng)唐志共表示：基于昇思MindSpore，生成式氣動(dòng)設(shè)計(jì)大模型平臺(tái)打破傳統(tǒng)設(shè)計(jì)范式，設(shè)計(jì)時(shí)長(zhǎng)由月級(jí)縮短到分鐘級(jí)，滿足概念設(shè)計(jì)要求。未來(lái)該平臺(tái)將擴(kuò)展到航空、航天、船舶、高鐵、能源、汽車等多個(gè)行業(yè)領(lǐng)域，引領(lǐng)工業(yè)裝備的設(shè)計(jì)和制造能力跨越式發(fā)展。

生成式氣動(dòng)設(shè)計(jì)大模型平臺(tái)基于昇思AI框架自主創(chuàng)新開(kāi)發(fā)。模型開(kāi)發(fā)階段，昇思框架和流體力學(xué)套件MindSpore Flow提供全面的科學(xué)計(jì)算算法庫(kù)和模型通用接口，提升模型開(kāi)發(fā)效率；模型訓(xùn)練階段，使用MindSpore多維度并行接口，基于成都智算中心算力支撐，模型和數(shù)據(jù)得以高效擴(kuò)展；模型部署階段，使用昇思大模型套件，將專業(yè)知識(shí)融入氣動(dòng)設(shè)計(jì)大模型平臺(tái)。串聯(lián)大語(yǔ)言模型、氣動(dòng)外形設(shè)計(jì)模型、氣動(dòng)預(yù)測(cè)模型和風(fēng)雷軟件等非AI工具，氣動(dòng)設(shè)計(jì)大模型平臺(tái)可支撐多種氣動(dòng)外形設(shè)計(jì)場(chǎng)景。

昇思MindSpore 2.3全新發(fā)布，大模型開(kāi)發(fā)訓(xùn)推更簡(jiǎn)、更穩(wěn)、更高效

昇思MindSpore積極探索前沿技術(shù)，支撐大模型原生高效訓(xùn)練。通過(guò)原創(chuàng)的多副本、多流水交織等8種并行技術(shù)，使集群線性度達(dá)到90%（業(yè)界不足60%），通過(guò)整圖優(yōu)化及下沉執(zhí)行等，使得算力利用率達(dá)到55%（業(yè)界不足40%）；針對(duì)集群故障率高，恢復(fù)時(shí)間長(zhǎng)的普遍問(wèn)題，通過(guò)編譯快照，確定性CKPT技術(shù)實(shí)現(xiàn)20分鐘完成故障恢復(fù)。

在大模型部署上，昇思通過(guò)訓(xùn)推一體的架構(gòu)升級(jí)實(shí)現(xiàn)腳本、分布式策略，運(yùn)行時(shí)的統(tǒng)一，Baichuan2-13B的推理部署只需1天。在大模型推理上，通過(guò)LLM Serving 實(shí)現(xiàn)推理吞吐提升2倍多；升級(jí)模型壓縮工具金箍棒2.0實(shí)現(xiàn)千億大模型壓縮至十倍。

為降低開(kāi)發(fā)門檻，昇思持續(xù)升級(jí)MindSpore TransFormers大模型套件，并提供MindSpore One生成式套件，全流程開(kāi)箱即用，一周即可完成大模型全流程的開(kāi)發(fā)。

創(chuàng)新AI+科學(xué)計(jì)算范式，孵化科學(xué)領(lǐng)域基礎(chǔ)大模型。MindSpore已在AI生物計(jì)算探索多年，聯(lián)合頂級(jí)科研機(jī)構(gòu)和伙伴打造了AI生物計(jì)算套件，包含蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)、生成等20多個(gè)SOTA模型，加速相關(guān)領(lǐng)域創(chuàng)新。

面向長(zhǎng)遠(yuǎn)規(guī)劃，昇思MindSpore深耕根技術(shù)，持續(xù)演進(jìn)，助力大模型產(chǎn)業(yè)落地。

四項(xiàng)行動(dòng)賦能學(xué)術(shù)與生態(tài)

昇思MindSpore開(kāi)源社區(qū)理事長(zhǎng)丁誠(chéng)在大會(huì)上公布了昇思賦能學(xué)術(shù)與生態(tài)的四項(xiàng)行動(dòng)。昇思和中國(guó)人工智能學(xué)會(huì)、鵬城實(shí)驗(yàn)室合作的學(xué)術(shù)論文基金2.0，將在未來(lái)3年內(nèi)攜手50多家全球AI學(xué)者，探索學(xué)術(shù)新高峰，實(shí)現(xiàn)數(shù)量質(zhì)量雙提升；昇思開(kāi)發(fā)板應(yīng)用創(chuàng)新行動(dòng)，基于香橙派開(kāi)發(fā)板，提供系統(tǒng)化的案例、教程與支持，幫助開(kāi)發(fā)者快速上手、快速入門、快速打造個(gè)性化應(yīng)用；昇思加速原生大模型孵化，通過(guò)激勵(lì)、專項(xiàng)技術(shù)支持和市場(chǎng)聯(lián)合推廣，支持更多伙伴從昇思遷移適配走向原生開(kāi)發(fā)；昇思開(kāi)源社區(qū)實(shí)習(xí)活動(dòng)，通過(guò)代碼實(shí)踐，讓開(kāi)發(fā)者真正的實(shí)踐成長(zhǎng)。

頒發(fā)昇思MindSpore杰出貢獻(xiàn)導(dǎo)師和開(kāi)發(fā)者

作為Gitee-國(guó)內(nèi)第一大開(kāi)源代碼托管平臺(tái)，開(kāi)源中國(guó)評(píng)選昇思MindSpore為“Gitee中國(guó)最佳開(kāi)源貢獻(xiàn)項(xiàng)目”，根據(jù)Gitee 指數(shù) 2.0 ， MindSpore在各類指標(biāo)中表現(xiàn)優(yōu)異，成為Gitee-AI領(lǐng)域分類下全品類指數(shù) NO.1。開(kāi)源中國(guó)董事長(zhǎng)馬越表示：生態(tài)的繁榮離不開(kāi)每一個(gè)項(xiàng)目的貢獻(xiàn)，MindSpore是Gitee珍視的瑰寶。

華為于2020年3月開(kāi)源昇思MindSpore AI框架，開(kāi)源后獲得國(guó)內(nèi)外開(kāi)發(fā)者的積極響應(yīng)，訪問(wèn)量數(shù)千萬(wàn)，超過(guò)687萬(wàn)下載安裝使用，在碼云千萬(wàn)開(kāi)源項(xiàng)目中綜合排名第一，服務(wù)企業(yè)數(shù)量超過(guò)5500家，合作高校360所。2023年以來(lái)，基于昇思框架發(fā)表的頂級(jí)會(huì)議論文數(shù)量超過(guò)1200篇，在所有AI框架中排名中國(guó)第一、全球第二，已成為國(guó)內(nèi)最具創(chuàng)新活力的AI開(kāi)源社區(qū)。

本次大會(huì)評(píng)選10位“昇思MindSpore杰出貢獻(xiàn)導(dǎo)師”和15位 “昇思MindSpore杰出貢獻(xiàn)開(kāi)發(fā)者”，表彰他們?yōu)樯鐓^(qū)做出的突出貢獻(xiàn)。 （御風(fēng)）

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。