生成式AI新風口:看聯(lián)發(fā)科的內(nèi)功與外功

當前,生成式AI(GAI)正以前所未有的速度發(fā)展,成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量,也越來越多地為終端用戶多樣化、個性化的內(nèi)容創(chuàng)造打開新的可能。

前不久,聯(lián)發(fā)科宣布聯(lián)合百度發(fā)起飛槳和文心大模型硬件生態(tài)共創(chuàng)計劃,共同推進聯(lián)發(fā)科硬件平臺與飛槳和文心大模型適配。近期,聯(lián)發(fā)科還宣布運用Meta LIama 2大語言模型和聯(lián)發(fā)科先進的AI處理器(APU)以及完整的AI開發(fā)平臺(NeuroPilot),建立完整的終端側(cè)AI計算生態(tài),賦能終端設備生成式AI應用。

不難看到,聯(lián)發(fā)科大力投資AI技術(shù)與生態(tài),推進“端云融合”與終端側(cè)AI技術(shù)解決方案,為生成式AI市場探索更多發(fā)展路徑和動能,通過行業(yè)伙伴利用AI大模型賦能終端設備,讓更多的用戶享受到生成式AI帶來的全新體驗。

聯(lián)合百度發(fā)起飛槳和文心大模型硬件生態(tài)共創(chuàng)計劃

不久前,聯(lián)發(fā)科宣布與百度聯(lián)合發(fā)起飛槳和文心大模型硬件生態(tài)共創(chuàng)計劃,雙方將共同推進 聯(lián)發(fā)科硬件平臺與飛槳和文心大模型的適配。目前雙方正在合作優(yōu)化文心大模型在終端設備上的執(zhí)行效果,將實現(xiàn)大模型在終端和云端的協(xié)同工作,為用戶帶來突破性的生成式 AI 應用體驗。

3ed890321dab4149ae4907afbc12be69.png

作為推動 AI 進一步發(fā)展的先進技術(shù),與單純在云端部署生成式 AI 應用和服務相比,終端側(cè)部署生成式 AI 在節(jié)約服務器成本、保護用戶信息安全、提升實時性和實現(xiàn)個性化用戶體驗等方面具備明顯優(yōu)勢。雙方的合作將支持基于 聯(lián)發(fā)科芯片的智能手機、汽車、智能家居、物聯(lián)網(wǎng)等終端設備上運行文心大模型,賦能終端設備提供更安全、可靠和差異化的使用體驗。

聯(lián)發(fā)科與百度合作已久,雙方合作完成了Paddle Lite 輕量化推理引擎基于MediaTek NeuroPilot 人工智能通用軟件平臺的適配。NeuroPilot是MediaTek為開發(fā)者提供的基于本地端側(cè)的AI運算解決方案,它為內(nèi)建 CPU、GPU 和 APU(獨立AI 處理器)等異構(gòu)運算單元的MediaTek SoC平臺提供完整且強大的軟件解決方案。

聯(lián)發(fā)科無線通信事業(yè)部副總經(jīng)理李彥輯博士表示:“百度飛槳深度學習平臺和文心大模型在AI領(lǐng)域處于領(lǐng)先地位,我們雙方將聚焦 AI 大模型在終端側(cè)的部署,為用戶提供更安全可靠,更個人化,更低成本的端側(cè)生成式 AI 解決方案,賦予終端設備更強大的 AI 能力。MediaTek攜手百度飛槳和文心大模型,通過 AI 端云融合,將為廣大開發(fā)者和終端用戶帶來更多令人興奮的 AI 創(chuàng)新機遇和產(chǎn)品體驗。”

運用Meta Llama 2大語言模型賦能終端設備生成式AI應用

近日,聯(lián)發(fā)科宣布利用 Meta 新一代開源大語言模型(LLM)Llama 2 以及聯(lián)發(fā)科先進的 AI 處理器(APU)和完整的 AI 開發(fā)平臺(NeuroPilot),建立完整的終端側(cè) AI 計算生態(tài),加速智能手機、物聯(lián)網(wǎng)、汽車、智能家居和其他邊緣設備的 AI 應用開發(fā),為終端設備提供更安全、可靠和差異化的使用體驗。

c0e9fb852b0447bda1aeaf661ae8d4e1.png

聯(lián)發(fā)科資深副總經(jīng)理暨無線通信事業(yè)部總經(jīng)理徐敬全博士表示:“生成式 AI 的日益普及是數(shù)字化轉(zhuǎn)型的重要趨勢之一,我們的愿景是為 Llama 2 的開發(fā)者和終端用戶提供工具,帶來更多令人興奮的 AI 創(chuàng)新機遇和產(chǎn)品體驗。通過與 Meta 的伙伴關(guān)系,MediaTek可提供更強大的硬件和軟件整體解決方案,為終端設備帶來遠超以往的功能和體驗。”

要在終端設備上充分釋放生成式AI的潛力,設備制造商需采用高算力、低功耗的AI處理器(APU),并通過更快、更可靠的網(wǎng)絡連接來增強設備的整體算力。如今,每一顆聯(lián)發(fā)科5G智能手機SoC均搭載AI處理器,已廣泛執(zhí)行生成式AI應用成功案例,例如 AI 降噪(AI-NR)、AI 超級分辨率(AI-SR)以及AI運動補償(AI-MEMC)等。

MediaTek將于年末推出新一代旗艦移動芯片,將采用針對Llama 2模型而優(yōu)化的軟件棧(NeuroPilot),與搭配支持Transformer模型做骨干網(wǎng)絡加速的升級版AI處理器(APU),可減少動態(tài)隨機存取內(nèi)存(DRAM)的讀寫消耗和帶寬占用,進一步強化大語言模型和生成式AI應用的性能,助力開發(fā)者打造令人驚艷的AI應用,加速終端設備AI應用落地發(fā)展。

面向生成式AI技術(shù)和應用浪潮,聯(lián)發(fā)科將持續(xù)投資技術(shù)并攜手行業(yè)伙伴,透過先進科技和海量伙伴推動生成式AI在終端側(cè)的布局和發(fā)展,加速生成式AI市場的規(guī)?;l(fā)展,持續(xù)為智能手機、汽車、智能家居、物聯(lián)網(wǎng)等終端設備用戶帶來振奮人心的生成式AI應用體驗。

(免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )