從零復(fù)現(xiàn)，全面開(kāi)源：360 Light-R1-14B/7B帶來(lái)端側(cè)AI平權(quán)時(shí)刻

性能領(lǐng)先、開(kāi)源普惠、國(guó)產(chǎn)易獲取的三重勢(shì)能，造就了年初DeepSeek的技術(shù)平權(quán)狂熱，掀起AI普惠浪潮。

然而，當(dāng)很多人想在端側(cè)部署DeepSeek模型時(shí)，卻遭遇了挑戰(zhàn)：部署滿血版大模型需數(shù)萬(wàn)元硬件投入，退而求其次選擇蒸餾版14B版本，又會(huì)出現(xiàn)性能斷崖式下跌與響應(yīng)延遲。

就在AI用戶陷入“高成本部署”與“低質(zhì)量妥協(xié)”的兩難困境時(shí)，端側(cè)AI的破局時(shí)刻，悄悄被360打開(kāi)了。

近期，360智腦團(tuán)隊(duì)發(fā)布了最強(qiáng)14B推理模型：Light-R1-14B-DS，是業(yè)界首次在14B模型上復(fù)現(xiàn)強(qiáng)化學(xué)習(xí)效果。數(shù)學(xué)能力上，表現(xiàn)超過(guò)

DeepSeek-R1-Distill-Llama-70B和DeepSeek-R1-Distill-Qwen-32B。

盡管只訓(xùn)練了MATH數(shù)據(jù)，但在GPQA科學(xué)常識(shí)評(píng)測(cè)中，7B/14B雙版本均超越對(duì)標(biāo)產(chǎn)品，展現(xiàn)出“小參數(shù)大智慧”的泛化能力。

此外，配合360的全面開(kāi)源策略（模型/數(shù)據(jù)/代碼/技術(shù)報(bào)告全開(kāi)放），這場(chǎng)端側(cè)AI平權(quán)運(yùn)動(dòng)，意味著14B模型能在手機(jī)端流暢運(yùn)行，意味著企業(yè)無(wú)需天價(jià)算力即可部署專業(yè)級(jí)AI。

AI端側(cè)民主化的風(fēng)暴眼，正在醞釀之中。

我們第一時(shí)間研讀了360放出的技術(shù)報(bào)告，發(fā)現(xiàn)端側(cè)AI的技術(shù)拐點(diǎn)已經(jīng)出現(xiàn)。360開(kāi)源的Light-R1-14B-DS創(chuàng)造了三項(xiàng)行業(yè)紀(jì)錄：

一是能力復(fù)現(xiàn)。Light-R1-14B-DS首次在數(shù)學(xué)能力上，用14B 模型復(fù)現(xiàn)了強(qiáng)化學(xué)習(xí)效果，通過(guò)多階段課程學(xué)習(xí)SFT和強(qiáng)化學(xué)習(xí)，Light-R1-14B-DS的表現(xiàn)超過(guò)

DeepSeek-R1-Distill-Llama-70B和DeepSeek-R1-Distill-Qwen-32B，是目前最優(yōu)的14B模型，這驗(yàn)證了RL強(qiáng)化學(xué)習(xí)策略的有效性，RL對(duì)端側(cè)模型訓(xùn)練的收益很大，仍有進(jìn)一步挖掘潛力。

（Light-R1 訓(xùn)練流程）

二是效率革命。Light-R1-14B-DS 經(jīng)過(guò)長(zhǎng)思維鏈強(qiáng)化學(xué)習(xí)后訓(xùn)練，在AIME 24和25上分別取得了74.0和60.2的成績(jī)，數(shù)學(xué)部分表現(xiàn)超越DeepSeek的70B（72.6分）和32B（54.9分）蒸餾模型，取得了非常顯著的提升，這標(biāo)志著推理能耗進(jìn)一步降低。另一版本的Light-R1-7B-DS，無(wú)需量化即可端側(cè)部署。此次探索，在低成本復(fù)現(xiàn) DeepSeek-R1方面邁出了重要一步。

三是泛化能力增強(qiáng)。Light-R1-14B-DS在科學(xué)常識(shí)評(píng)測(cè)GPQA上漲，打破了模型“災(zāi)難性遺忘”的魔咒，具有較好的泛化性，開(kāi)辟模型優(yōu)化新路徑。

最強(qiáng)14B端側(cè)推理模型，撕開(kāi)了DeepSeek 70B的性能封鎖線，端側(cè)AI迎來(lái)了規(guī)?；占暗墓拯c(diǎn)。不過(guò)，在AI與大眾之間，還差一個(gè)開(kāi)源。

如果僅有技術(shù)突破，但沒(méi)有開(kāi)源機(jī)制，那么端側(cè)推理模型再好，也無(wú)法被大眾輕松獲得、低成本用起來(lái)。

此次，360采取了全棧式的開(kāi)源策略——模型權(quán)重、22萬(wàn)條數(shù)學(xué)數(shù)據(jù)集、RL訓(xùn)練代碼、技術(shù)報(bào)告等，都悉數(shù)公開(kāi)。這種開(kāi)源深度，遠(yuǎn)遠(yuǎn)超過(guò)了常規(guī)模型權(quán)重開(kāi)放。

也就是說(shuō)，中小團(tuán)隊(duì)僅需極少算力，就能從數(shù)據(jù)清洗到強(qiáng)化學(xué)習(xí)全鏈路復(fù)現(xiàn)，完成端側(cè)AI的后訓(xùn)練與部署。

端側(cè)AI的民主化，高度依賴于科技企業(yè)的開(kāi)源策略，為什么說(shuō)360此次開(kāi)放端側(cè)推理模型很重要？

對(duì)企業(yè)來(lái)說(shuō)，傳統(tǒng)端側(cè)AI部署，會(huì)面臨閉源模型高昂的授權(quán)費(fèi)用（如OpenAI API調(diào)用成本）與硬件適配的邊際成本（需定制化芯片或服務(wù)器），成本難以承受。此前openai也發(fā)布過(guò)蒸餾版o1-mini，但高昂的訂閱費(fèi)依然讓大量開(kāi)發(fā)者望而卻步。此外，閉源模型存在不可解釋性風(fēng)險(xiǎn)，醫(yī)療、法律等行業(yè)因合規(guī)要求無(wú)法接受“輸入－輸出”不透明的AI決策。因此，Light-R1-14B-DS這樣低成本、全開(kāi)源的國(guó)產(chǎn)端側(cè)推理模型，有望打消企業(yè)對(duì)AI的顧慮，輕松邁入智能化。

對(duì)個(gè)人來(lái)講，云端模型需要上傳數(shù)據(jù)，這會(huì)引發(fā)隱私泄露的顧慮。而在端側(cè)離線運(yùn)行大模型，又對(duì)算力/內(nèi)存有更高的要求，傳統(tǒng)端側(cè)AI需要旗艦級(jí)設(shè)備，買不起旗艦機(jī)，就用不到好AI，這形成了一種AI時(shí)代的“設(shè)備歧視”。

360開(kāi)源最強(qiáng)14B端側(cè)模型，讓端側(cè)AI能力不再是少數(shù)機(jī)型的特權(quán)，也可以下沉到普惠機(jī)型上，為大眾所用。而用戶規(guī)模的擴(kuò)大，也會(huì)推動(dòng)AI應(yīng)用及大模型產(chǎn)品的增長(zhǎng)。

由此看到，360開(kāi)源策略所帶來(lái)的技術(shù)民主化，可以激活A(yù)I的長(zhǎng)尾需求，加速AI普惠的到來(lái)。

終端設(shè)備，是用好AI的載體。推理模型下沉到端側(cè)，應(yīng)用空間也十分廣闊，打開(kāi)了端側(cè)AI的無(wú)限想象空間。

預(yù)測(cè)一下，目前這兩個(gè)最強(qiáng)端側(cè)14B/7B推理模型，可能會(huì)首先落地在商業(yè)價(jià)值高的場(chǎng)景，然后一步步滲透進(jìn)各行業(yè)。

首當(dāng)其沖的，就是消費(fèi)電子領(lǐng)域。智能手機(jī)、手表、平板、PC、眼鏡等終端設(shè)備，近兩年都在加速AI化。

但此前AI化有兩種方案：一是純端側(cè)，保證本地隱私安全，但內(nèi)存要求高，功耗大；另一種是端云結(jié)合，部分任務(wù)上云處理。Light-R1-7B-DS無(wú)需量化即可部署于終端設(shè)備（如手機(jī)、IoT設(shè)備），標(biāo)志著消費(fèi)級(jí)硬件也能運(yùn)行復(fù)雜AI任務(wù)。對(duì)比傳統(tǒng)需要32B以上參數(shù)的端側(cè)模型，其7B規(guī)模大幅降低內(nèi)存占用和能耗。為AI終端帶來(lái)了更大的創(chuàng)新空間，比如在手機(jī)本地運(yùn)行復(fù)雜數(shù)學(xué)輔導(dǎo)、法律文書(shū)解析等任務(wù)，解決隱私和延遲痛點(diǎn)。

360的技術(shù)突破與全棧開(kāi)源，可以為消費(fèi)電子領(lǐng)域的AI探索帶來(lái)非常有益的借鑒。

下一個(gè)就是重點(diǎn)行業(yè)、垂直領(lǐng)域。金融、政務(wù)、醫(yī)療、法律等數(shù)字化基礎(chǔ)較好的行業(yè)，積極擁抱AI，又希望在本地化運(yùn)行專業(yè)級(jí)AI，避免敏感數(shù)據(jù)上傳云端，這就需要專有模型+后訓(xùn)練，最強(qiáng)端側(cè)14B/7B推理模型可以大幅降低端側(cè)專有模型的訓(xùn)練、推理等硬件門檻，加速行業(yè)智能化探索。

更進(jìn)一步，傳統(tǒng)行業(yè)壁壘也將被端側(cè)普惠AI撕開(kāi)。比如智慧城市治理，通過(guò)部署端側(cè)AI的邊緣智能計(jì)算，可以極大減少智能化的建設(shè)和升級(jí)運(yùn)維成本；農(nóng)業(yè)智能化，搭載14B模型的農(nóng)業(yè)無(wú)人機(jī)，路線自動(dòng)避障、精準(zhǔn)識(shí)別地面等能力，都會(huì)隨著推理能力的增強(qiáng)而大幅提升。

通過(guò)端側(cè)AI的普惠路線圖，來(lái)進(jìn)行推演，不難看到，360的技術(shù)突破與開(kāi)源策略，一定會(huì)吸引大量行業(yè)開(kāi)發(fā)者或個(gè)人開(kāi)發(fā)者前來(lái)試用，與豐富的場(chǎng)景相結(jié)合，催生大量智能化的長(zhǎng)尾應(yīng)用。

也就是說(shuō)，通過(guò)開(kāi)源輕量級(jí)推理模型，360有望規(guī)避AI六小強(qiáng)在千億參數(shù)級(jí)的競(jìng)爭(zhēng)。基于開(kāi)源開(kāi)放的技術(shù)公信力，構(gòu)建開(kāi)發(fā)者生態(tài)護(hù)城河。從這個(gè)角度看，360掀起的端側(cè)AI颶風(fēng)，也將卷出一個(gè)大模型競(jìng)爭(zhēng)的新格局。

端側(cè)推理模型的平權(quán)時(shí)刻已到，萬(wàn)億級(jí)邊緣智能市場(chǎng)正蓄勢(shì)待發(fā)、乘風(fēng)遠(yuǎn)航。

生成海報(bào)

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個(gè)人觀點(diǎn)，與極客網(wǎng)無(wú)關(guān)。文章僅供讀者參考，并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。