深思考發(fā)布鴻蒙系統(tǒng)TinyDongni&deepseek超小端側(cè)多模態(tài)大模型及硬件模組,引領(lǐng)端側(cè)多模態(tài)大模型的應(yīng)用創(chuàng)新

1.jpg

2025年2月23日,深思考人工智能正式發(fā)布鴻蒙系統(tǒng)TinyDongni&deepseek超小端側(cè)多模態(tài)大模型及硬件模組,并宣布與國產(chǎn)頭部模組廠商廣和通、深開鴻達(dá)成合作,推出適配國產(chǎn)算力的硬件解決方案。此次合作標(biāo)志著國產(chǎn)端側(cè)AI技術(shù)在低功耗、高性能領(lǐng)域?qū)崿F(xiàn)重大突破,打破“國產(chǎn)算力性能不足”的固有認(rèn)知。

核心優(yōu)勢:輕量化大模型賦能國產(chǎn)硬件生態(tài)

2.jpg

TinyDongni作為端側(cè)輕量化大模型,以僅1.5B的極簡參數(shù)規(guī)模實(shí)現(xiàn)高效能運(yùn)算,其創(chuàng)新量化方法顯著降低首Token延遲,支持32K超長上下文理解,并通過多芯片協(xié)同處理與內(nèi)存優(yōu)化技術(shù),兼顧低功耗與高響應(yīng)速度。技術(shù)亮點(diǎn)包括:

架構(gòu)優(yōu)化:DongniForCausalLM架構(gòu),支持1536/768隱藏層維度;

多語言支持:詞匯表擴(kuò)展至183,542,覆蓋更廣泛的語言及專業(yè)領(lǐng)域表達(dá);

靈活適配:兼容OpenHarmony、Linux、Windows、Android等主流操作系統(tǒng)。

deepseek系列則聚焦多模態(tài)能力,1B模型通過2048隱藏層維度與32注意力頭設(shè)計(jì),強(qiáng)化復(fù)雜場景下的語義理解,適配智能硬件與邊緣計(jì)算場景。

國產(chǎn)模組合作:強(qiáng)強(qiáng)聯(lián)合,打造端側(cè)算力標(biāo)桿

深思考聯(lián)合國產(chǎn)模組廠商推出兩大解決方案,驗(yàn)證輕量化大模型與國產(chǎn)硬件的協(xié)同效能:

廣和通模組:集成5G與Wi-Fi 7通信技術(shù),依托深思考算法優(yōu)化,為車載、機(jī)器人等場景提供實(shí)時AI處理能力;

深開鴻模組:基于國產(chǎn)芯片與OpenHarmony系統(tǒng),支持8K編解碼與多屏交互,賦能工業(yè)檢測、AI攝像頭等高精度場景。

技術(shù)突破意義:在國產(chǎn)算力硬件上跑通大模型,充分證明深思考技術(shù)的輕量化與高效能——模型體積小但功能完備,無需依賴高算力硬件即可實(shí)現(xiàn)復(fù)雜任務(wù)處理,為端側(cè)AI普惠化提供堅(jiān)實(shí)基礎(chǔ)。

全場景應(yīng)用:從生活到專業(yè)領(lǐng)域的AI革新

3.jpg

深思考端側(cè)大模型已落地多個領(lǐng)域:

1.存儲領(lǐng)域:利用深思考的輕量化大模型技術(shù),對存儲設(shè)備的數(shù)據(jù)進(jìn)行多模態(tài)搜索,通過自然語言來實(shí)現(xiàn)對存儲中的信息進(jìn)行語義級別的搜索圖片、視頻、文件;

2. 智能終端:AI PC、AI手機(jī)、AI手表、AI眼鏡,AI攝像頭等;

3. 辦公助手:AI PC Suite提供本地文件模糊搜索、PPT自動生成及同聲翻譯,保障數(shù)據(jù)安全;

4. 醫(yī)療健康:AI顯微鏡通過加密分析與擴(kuò)展模塊,提升病理檢測穩(wěn)定性與效率;

5. 智能汽車:融合手勢、語音、圖像多模態(tài)交互,實(shí)時解析車內(nèi)外環(huán)境;

6. 機(jī)器人生態(tài):人形與萌寵機(jī)器人依托“Her”模式與情感交互,針對萌寵玩具場景提供端側(cè)模型與算力一站式解決方案,解決設(shè)備無法聯(lián)網(wǎng)、廠商技術(shù)能力不足的痛點(diǎn)。

技術(shù)賦能未來,深思考持續(xù)深耕AI創(chuàng)新

4.jpg

深思考創(chuàng)始人& CEO楊志明表示:“深思考鴻蒙系統(tǒng)TinyDongni&deepseek超小端側(cè)多模態(tài)大模型及硬件模組的發(fā)布,不僅是技術(shù)突破,更是端側(cè)AI普惠化的里程碑。未來,將持續(xù)優(yōu)化多模態(tài)交互能力,推動AI在醫(yī)療、工業(yè)、消費(fèi)等領(lǐng)域的深度應(yīng)用?!?/p>

針對場景定制化與性能平衡,楊志明進(jìn)一步強(qiáng)調(diào):“端側(cè)模型通過量化技術(shù)確保功能指標(biāo)不下降,同時利用本地小算力運(yùn)行大模型,針對機(jī)器人、萌寵玩具等場景進(jìn)行專項(xiàng)優(yōu)化,實(shí)現(xiàn)性能與功耗的完美平衡?!?/p>

OpenHarmony助力,共筑端側(cè)AI生態(tài)

5.jpg

在此次發(fā)布活動中,華為OpenHarmony使能部AI技術(shù)專家劉小飛介紹了OpenHarmony在大模型領(lǐng)域的探索。OpenHarmony是開源項(xiàng)目,旨在構(gòu)建智能設(shè)備運(yùn)行平臺。其社區(qū)發(fā)展迅猛,生態(tài)伙伴眾多。

OpenHarmony旗下的Laval社區(qū)與深思考合作,借助大模型服務(wù)開發(fā)者。2024年4月上線的OpenHarmony專屬智能問答助手“小瓦AI答”,基于深思考Dongni多模態(tài)大模型技術(shù),已服務(wù)9000多名開發(fā)者,回答3萬多個問題,極大提升了社區(qū)與用戶的互動體驗(yàn)。

未來,OpenHarmony海量端側(cè)設(shè)備將為深思考技術(shù)提供廣闊應(yīng)用空間,雙方攜手共進(jìn),共同拓展端側(cè)AI市場。

深思考此次發(fā)布的創(chuàng)新成果,結(jié)合OpenHarmony在大模型領(lǐng)域的探索實(shí)踐,有望吸引更多生態(tài)伙伴加入,共同推動端側(cè)AI技術(shù)的發(fā)展,讓AI更好地服務(wù)于人們的工作和生活。

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實(shí),并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2025-02-25
深思考發(fā)布鴻蒙系統(tǒng)TinyDongni&deepseek超小端側(cè)多模態(tài)大模型及硬件模組,引領(lǐng)端側(cè)多模態(tài)大模型的應(yīng)用創(chuàng)新
2025年2月23日,深思考人工智能正式發(fā)布鴻蒙系統(tǒng)TinyDongni&deepseek超小端側(cè)多模態(tài)大模型及硬件模組,并宣布與國產(chǎn)頭部模組廠商廣和通、深開鴻達(dá)成合作,推出適配國產(chǎn)算力的硬件解決方案。

長按掃碼 閱讀全文