硬科技產(chǎn)業(yè)觀察之端側AI：AI算力隨身釋放千億價值

極客網(wǎng)·極客觀察（朱飛）11月14日 風云變幻的國際局勢中，硬科技的價值日益凸顯。2024年10月22日，由E維智庫主辦的第12屆中國硬科技產(chǎn)業(yè)鏈創(chuàng)新趨勢峰會暨百家媒體論壇在深圳灣萬怡酒店成功舉行。峰會聚焦硬科技在產(chǎn)業(yè)發(fā)展中的驅動作用，匯聚眾多行業(yè)精英、專家學者以及百家媒體代表，共同探討硬科技產(chǎn)業(yè)鏈的創(chuàng)新趨勢與未來發(fā)展方向。

峰會上，來自艾邁斯歐司朗、Qorvo、RAMXEED（原富士通半導體）、飛凌微、安謀科技、清純半導體等知名科技企業(yè)的技術專家發(fā)表了精彩演講，內容涵蓋LED技術、射頻技術、FeRAM技術、端側AI技術、NPU技術、SiC技術等多個領域，展示了硬科技在多個領域的技術發(fā)展及應用情況。

這其中，端側AI作為硬科技領域的一個重要分支，涉及在設備端疊加AI算力、進行數(shù)據(jù)處理和智能決策，以實現(xiàn)快速響應和增強用戶體驗，成為峰會的一大焦點。飛凌微和安謀科技的技術專家均現(xiàn)身說法，分享了各家技術方案的發(fā)展以及在端側AI領域的最新應用，令人印象深刻。

飛凌微邵科：以新一代端側SoC與感知融合方案，助力車載智能視覺升級

飛凌微首席執(zhí)行官兼思特威副總裁邵科在峰會上做了《新一代端側SoC與感知融合方案，助力車載智能視覺升級》的分享，結合端側AI發(fā)展趨勢介紹了端側視覺處理芯片及將端側SoC和圖像傳感器結合在車載應用方案上面的落地應用。

端側AI為何必要？邵科在演講中強調了端側AI處理的三大優(yōu)勢：低延遲、高可靠性以及數(shù)據(jù)安全和隱私保護。他指出，隨著圖像傳感器和AI算法的快速發(fā)展，端側AI在智能車載、智能家居、物聯(lián)網(wǎng)和機器視覺等領域的應用越來越廣泛。

順應市場需求，飛凌微今年推出了M1系列三款產(chǎn)品——高性能ISP和兩顆輕量級SoC，它們專為車載端側視覺感知預處理設計，具有業(yè)內最小的BGA 7mm*7mm封裝，有助于實現(xiàn)更小型化的車載攝像頭模組。

其中，M1系列芯片的高性能ISP能夠處理高達800萬像素的圖像數(shù)據(jù)，具備高動態(tài)范圍和優(yōu)秀的暗光性能，滿足車載ADAS和影像類產(chǎn)品的需求。此外，M1系列芯片的輕量級SoC集成了輕量級的CPU和NPU，具備0.8TOPS的算力，能夠進行人臉識別、姿態(tài)識別等輕量級AI應用。

目前，飛凌微的產(chǎn)品方案已經(jīng)在車載視覺領域的多個應用案例，包括DMS駕駛員監(jiān)控、OMS乘客監(jiān)控、電子后視鏡和后視攝像頭識別等。這些解決方案不僅提升了駕駛體驗，還增強了車輛的安全性和智能化水平。

在演講之后的問答環(huán)節(jié)中，邵科解釋了飛凌微的輕算力與市場上其他MCU的區(qū)別，并強調了輕算力在功耗、小型化方面的差異化優(yōu)勢。他還提到，飛凌微正在開發(fā)第二代產(chǎn)品，將支持多模態(tài)應用，包括不同傳感器的輸入和語音與視覺的組合。

一言以蔽之，面對端側AI和SoC技術的新機遇及新挑戰(zhàn)，飛凌微計劃通過圖像傳感器與SoC的深度融合，以及采用更先進的AI加速技術和提高圖像性能的技術，來更好地滿足客戶需求，讓端側AI綻放更大價值。

安謀科技：以“周易”NPU IP產(chǎn)品，加速終端AI算力升級

安謀科技產(chǎn)品總監(jiān)鮑敏祺在峰會期間做了《端側AI應用“芯”機遇，NPU加速終端算力升級》的分享。他指出，隨著AIGC大模型帶來的算力提升，具備時效性和數(shù)據(jù)本地安全性優(yōu)勢的端側AI應用正迎來新的增長點，其發(fā)展不僅僅局限于語言模型，而是將涵蓋圖片、音頻、視頻等多種輸入方式，滿足多樣化的應用場景。

當然機遇背后也有挑戰(zhàn)。鮑敏祺提到，端側AI的挑戰(zhàn)主要集中在成本、功耗和生態(tài)系統(tǒng)上。他解釋說，用戶實時體驗的需求要求大模型在2秒內響應，而端側設備的存儲容量、帶寬限制了大模型的部署。為此，安謀科技推出“周易”NPU，通過優(yōu)化架構、提升算力，有效應對這些挑戰(zhàn)。

比如，“周易”NPU保留了一部分本來的CNN能力，同時對Transformer大模型進行了增強；又如，“周易”NPU更注重數(shù)據(jù)的本地化，減少數(shù)據(jù)搬運；此外，“周易”NPU針對大模型進行了總線帶寬的擴展，以防止帶寬瓶頸出現(xiàn)。如此種種，通過增強算力、優(yōu)化數(shù)據(jù)流和提升效率，“周易”NPU IP產(chǎn)品能夠加速終端AI算力升級，滿足多樣化端側設備的AI計算需求。

而在應對生態(tài)挑戰(zhàn)方面，移動時代一路主導下來的安謀科技更為輕車駕熟。鮑敏祺介紹，其“周易”NPU針對文心、Llama、GPT等主流模型均進行了對應部署，并對包括PAD、PC、Mobile、Automotive在內的各類端側設備都進行了覆蓋，根據(jù)實際場景需求去適配模型和算力。

在演講之后的問答環(huán)節(jié)，鮑敏祺還分享了“周易”NPU在智能汽車領域的應用，包括ADAS、智能座艙和車載娛樂系統(tǒng)等。其中，搭載“周易”NPU的芯擎科技“龍鷹一號”已累計出貨超過40萬片，并成功應用于吉利旗下的領克、銀河系列以及一汽紅旗等20余款主力車型中。

而面向未來，鮑敏祺透露下一代“周易”NPU將會繼承并顯著增強前代NPU的強算力、易部署以及可編程等特點和優(yōu)勢，并針對大模型的優(yōu)化做一些通用計算的能力優(yōu)化，圍繞精度、帶寬、調度管理、算子支持等多個方面持續(xù)進行優(yōu)化，使得NPU能夠更好地滿足當前及未來市場需求。

寫在最后：

無獨有偶，在近日舉行的2024全球移動寬帶論壇（MBBF 2024）上，端側AI也是焦點議題之一。在電信及其他產(chǎn)業(yè)人士看來，2024年是AI入端元年，將造就AI算力隨身，使能AI業(yè)務移動化，引領消費電子、智能汽車、具身智能機器人等新移動業(yè)態(tài)的發(fā)展，創(chuàng)造巨大的商業(yè)價值。

IDC預計，明年（2025年）全球端側AI市場的收入將達到59億美元。而Gartner的預測數(shù)據(jù)顯示，到2030年，全球端側AI市場將達到數(shù)千億美元的規(guī)模。這一預測基于端側AI技術在多個行業(yè)的深入應用，包括智能制造、自動駕駛、智能家居、醫(yī)療健康等領域。

數(shù)據(jù)顯示，當前具有AI功能的APP數(shù)量已達到300多萬款，超過了傳統(tǒng)應用商店中所有其他APP數(shù)量的總和。AI業(yè)界認為，未來5~10年，個人智能體（即各種Agents），將橫跨多應用、多模態(tài)和多終端，成為移動新入口，影響每一個人。

毋庸諱言，端側AI大門已經(jīng)打開，未來更是星辰大海！從底層芯片到終端產(chǎn)品再到智能應用，產(chǎn)業(yè)各界已經(jīng)形成高度共識并付諸行動，挖掘硬科技的巨大潛力，驅動更美好的智能未來！

生成海報

免責聲明：本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產(chǎn)權或存在不實內容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。