微軟助力深度學(xué)習(xí)：Copilot+PC本地運(yùn)行7B和14B模型，DeepSeek引領(lǐng)新潮流
隨著科技的飛速發(fā)展，深度學(xué)習(xí)已成為人工智能領(lǐng)域的關(guān)鍵驅(qū)動(dòng)力。微軟在推動(dòng)這一領(lǐng)域的發(fā)展中發(fā)揮了不可或缺的角色，尤其在最近宣布通過Azure AI Foundry接入DeepSeek-R1 7B和14B蒸餾模型，為Copilot+ PC提供本地運(yùn)行7B和14B模型的能力。這一舉措無疑將深度學(xué)習(xí)帶入了更多設(shè)備，引領(lǐng)了新的潮流。
首先，讓我們回顧一下DeepSeek的背景。DeepSeek是一種新型的神經(jīng)網(wǎng)絡(luò)量化方法，它通過使用Aqua內(nèi)部自動(dòng)量化工具，將所有DeepSeek模型變體量化為int4權(quán)重。這種量化方法不僅提高了模型的運(yùn)行效率，還降低了模型的內(nèi)存占用，使得更多的模型能夠在更小的設(shè)備上運(yùn)行。
微軟此次承諾將DeepSeek-R1模型的NPU優(yōu)化版本帶到搭載高通驍龍X處理器的Copilot+ PC上，如今這個(gè)承諾終于兌現(xiàn)。從微軟官方博客獲知，該模型將從搭載高通驍龍X處理器的Copilot+ PC開始上線，隨后是英特爾酷睿Ultra 200V和AMD銳龍的設(shè)備。這意味著，無論你使用的是哪種類型的電腦，都有機(jī)會(huì)體驗(yàn)到深度學(xué)習(xí)的魅力。
值得注意的是，由于模型運(yùn)行在NPU上，可以減少對(duì)PC電池續(xù)航和散熱性能的影響，同時(shí)持續(xù)獲得AI計(jì)算能力，CPU和GPU可用于執(zhí)行其他任務(wù)。這無疑是一種平衡性能和功耗的優(yōu)秀方案，為PC用戶提供了更多的選擇。
微軟在此過程中扮演了關(guān)鍵角色。它使用了Aqua內(nèi)部自動(dòng)量化工具，將所有DeepSeek模型變體量化為int4權(quán)重，并正在進(jìn)一步優(yōu)化提高標(biāo)記速度。這一舉措無疑提升了模型的運(yùn)行效率，也展示了微軟在深度學(xué)習(xí)領(lǐng)域的專業(yè)性和技術(shù)實(shí)力。
對(duì)于開發(fā)者來說，使用AI Toolkit VS Code擴(kuò)展可以在Copilot+ PC上下載和運(yùn)行DeepSeek模型的1.5B、7B和14B版本。這無疑為開發(fā)者提供了更多的選擇和靈活性，使得他們能夠更好地利用這些模型進(jìn)行創(chuàng)新性的研究和工作。
總的來說，微軟通過Azure AI Foundry接入DeepSeek-R1 7B和14B蒸餾模型，為Copilot+ PC提供本地運(yùn)行7B和14B模型的能力，標(biāo)志著深度學(xué)習(xí)進(jìn)入了新的階段。這種新型的量化方法和模型部署方式，將深度學(xué)習(xí)帶入了更多的設(shè)備中，為人們的生活和工作帶來了更多的便利和可能。
盡管微軟在此過程中扮演了關(guān)鍵角色，但我們也要看到，深度學(xué)習(xí)是一個(gè)不斷發(fā)展的領(lǐng)域，需要來自學(xué)術(shù)界、工業(yè)界和政府的多方努力。我們期待未來微軟能夠繼續(xù)在深度學(xué)習(xí)領(lǐng)域進(jìn)行更多的探索和創(chuàng)新，為人們的生活和工作帶來更多的便利和可能。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
