滿血版DeepSeek落地東南大學!昇騰先進架構(gòu)和卓越性能全程護航

今年以來,DeepSeek掀起新一輪AI熱潮。2月16日,東南大學正式官宣,東南大學網(wǎng)絡(luò)與信息中心,東南大學鯤鵬昇騰科教創(chuàng)新孵化中心,于全國產(chǎn)云智算一體化平臺成功部署滿血版DeepSeek-R1(671B)大模型并向全校提供服務。在昇騰先進架構(gòu)和卓越性能支持下,幫助用戶擺脫官方服務算力短缺的窘境,讓更多人用上“滿血版”的DeepSeek-R1,服務廣大師生學習生活、科研辦公等需求。

擁抱國產(chǎn)算力,東南大學攜手昇騰上線DeepSeek-R1大模型

近年,學界加快構(gòu)建算力基礎(chǔ)設(shè)施,以適應人工智能時代的教學、科研、辦公需求,東南大學是最早擁抱國產(chǎn)算力的頂尖高校之一,本次DeepSeek-R1成功本地化部署,正依托于東南大學2024年1月建成的全國產(chǎn)云智算一體化平臺,該平臺集成鯤鵬通用算力與昇騰AI算力,具備全流程國產(chǎn)化、高性能算力、大規(guī)模自動賦權(quán)體系等特點,全校師生“零申請”即可使用昇騰AI服務,同時有著高可用性、數(shù)據(jù)隱私保障、定制化服務擴展等優(yōu)勢,支持國內(nèi)外主流開源大模型,成為高校探路AI時代的典型范例。

一直以來,東南大學堅定國產(chǎn)化技術(shù)發(fā)展路線的戰(zhàn)略方針,在與華為的長期合作中建立了良好的合作基礎(chǔ)與深厚的信任。適逢DeepSeek橫空出世,東南大學于春節(jié)后開學季第一時間上線滿血版DeepSeek-R1(671B)大模型,相較蒸餾版性能更強,支持復雜邏輯推理與長文本深度交互,而且功能更全,支持私有知識庫融合,為教學科研提供定制化能力。在校園網(wǎng)內(nèi),師生通過訪問鏈接,可無限次免費體驗“滿血版”DeepSeek,徹底告別“服務器繁忙”的困擾。

破局算力困局:昇騰構(gòu)筑高校AI自主創(chuàng)新基座

早在 DeepSeek 模型發(fā)布之初,昇騰就已深度參與其中,支持用戶在昇騰硬件和MindIE推理引擎上實現(xiàn)高效推理,同時通過算子優(yōu)化、混合精度計算、推理適配優(yōu)化等技術(shù),配合全球部署、彈性可擴展、持平高端GPU強勁性能等優(yōu)勢,解決大模型部署使用的“算力難題”。因此,昇騰成為眾多企業(yè)機構(gòu)、校園研所構(gòu)建底層算力支持的首選,以此為基礎(chǔ)將DeepSeek與自身業(yè)務結(jié)合,發(fā)展更先進高效的人工智能服務。

具體到學界領(lǐng)域,東南大學網(wǎng)絡(luò)與信息中心通過昇騰Atlas系列服務器的澎湃算力,搭載MindIE智能推理引擎的深度優(yōu)化能力,打造出三大核心優(yōu)勢:

性能突圍:基于昇騰達芬奇架構(gòu)的混合精度計算技術(shù),推理效率較傳統(tǒng)方案實現(xiàn)顯著提升,支持單日百萬級交互請求。

自主可控:通過算子級兼容適配與動態(tài)路由技術(shù),構(gòu)建從芯片到框架的全棧技術(shù)鏈。

彈性擴展:依托昇騰AI原生算力平臺,算力資源可按需分鐘級擴容,完美適配科研攻關(guān)的波動性需求。

東南大學未來還計劃進一步開放生態(tài)與深度服務:2025年3月起,將面向校內(nèi)科研團隊陸續(xù)開放DeepSeek-R1滿血版API,支持私有知識庫嵌入、領(lǐng)域模型微調(diào)等功能,助力快速構(gòu)建學科專用AI工具,打造教學與科研的新范式。

作為校企合作、產(chǎn)教融合的重要平臺,東南大學鯤鵬昇騰科教創(chuàng)新孵化中心將持續(xù)推動DeepSeek等重要AI創(chuàng)新在高校領(lǐng)域落地,為課程設(shè)置、成果孵化、科研創(chuàng)新提供領(lǐng)先的算力環(huán)境,助力高校師生學習AI、擁抱AI、用好AI,勇立人工智能時代潮頭。

(免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )