面對4450億美元的邊緣計算市場 英特爾正在做些什么？

7月28日消息（艾斯）“到2030年，全球邊緣計算市場將達到4450億美元。邊緣的發(fā)展將會成為下個十年的一個巨大機遇，也是我們可利用的重要機遇?！庇⑻貭柟靖呒壐笨偛眉婢W(wǎng)絡(luò)與邊緣事業(yè)部總經(jīng)理Sachin Katti在本周于南京舉行的2023英特爾網(wǎng)絡(luò)與邊緣產(chǎn)業(yè)高層峰會上發(fā)表演講時說到。

來自中移智庫的最新研究報告顯示，行業(yè)多樣化需求正在牽引新形態(tài)云快速成長，其中，邊緣云正成為新的增長極。車聯(lián)網(wǎng)、工業(yè)互聯(lián)網(wǎng)等產(chǎn)生大量低時延存算需求，引發(fā)邊緣云需求快速增長。據(jù)德勤報告預(yù)計，我國邊緣云市場規(guī)模將從2022年的622億元增長到2025年的1988億元，復(fù)合增長率達47.5%。與此同時，智能云快速普及推廣。國內(nèi)外領(lǐng)先云服務(wù)企業(yè)正積極推動云智融合發(fā)展，普遍基于云提供AI平臺、模型、應(yīng)用等端到端產(chǎn)品服務(wù)。

Sachin Katti在接受C114等媒體采訪時指出，“AI正在快速遷移到云端，在這當中，邊緣會發(fā)揮更加重要的作用來推動AI部署。邊緣已經(jīng)是現(xiàn)在AI最大的部署所在。”面對邊緣AI市場的巨大機會，英特爾采取了硬件結(jié)合的整體策略，一方面該公司提供大量具備一流性能的硬件選擇，包括CPU、GPU、加速器等，另一方面，英特爾希望通過其軟件解決方案幫助客戶的運營降低復(fù)雜性、更加精簡。更重要的是，英特爾正在攜手廣泛的合作伙伴一起為行業(yè)提供創(chuàng)新的定制化整體解決方案。

邊緣已不再邊緣

毫無疑問，如今所有行業(yè)活動都繞不開的一個話題就是AI大模型?，F(xiàn)在大模型基本上都是在云端進行訓(xùn)練（中心化的訓(xùn)練），與此同時，這些在云端的訓(xùn)練有很多處于探索過程當中，不少行業(yè)正在對模型的成熟進行等待與觀望。在Sachin Katti看來，隨著大模型在云端訓(xùn)練的成熟，計算需求會快速向邊緣進行轉(zhuǎn)移。他分析稱，當行業(yè)真正要去使用比較穩(wěn)定的大模型時，就會考慮到數(shù)據(jù)的安全性，也就是隱私的問題，這對其來說是非常重要的。對很多企業(yè)來說，他們并不希望數(shù)據(jù)在云端進行完全開放，因此，將私有數(shù)據(jù)放在邊緣進行計算和應(yīng)用無疑簡成為一種必然選擇。

據(jù)調(diào)研機構(gòu)預(yù)測，到2025年，75%由企業(yè)生成的數(shù)據(jù)將在傳統(tǒng)數(shù)據(jù)中心或云之外進行創(chuàng)建和處理；到2026年，50%的邊緣部署將涉及機器學(xué)習(xí)；86%的邊緣開發(fā)人員將瞄準基于AI的應(yīng)用程序；邊緣的AI推理將是數(shù)據(jù)中心的3倍。正如英特爾公司副總裁兼網(wǎng)絡(luò)與邊緣事業(yè)部中國區(qū)總經(jīng)理陳偉博士所言，“邊緣不在邊緣，邊緣將成為主場?！盨achin Katti亦表示，“現(xiàn)在邊緣的時代還處在早期階段，英特爾及整個生態(tài)系統(tǒng)的合作伙伴都在攜手努力去進行相應(yīng)探索，在邊緣計算方面會有巨大的增長。這個十年可以說是邊緣的時代?！?/p>

不過，目前大多數(shù)的邊緣AI項目無法成功落地。一是因為基礎(chǔ)設(shè)施問題，大部分工廠環(huán)境中的設(shè)備比較陳舊，如何把AI大模型部署到這些陳舊設(shè)備上，將需要非常大的計算足跡；二是因為數(shù)據(jù)問題，因為每個行業(yè)（企業(yè)）的數(shù)據(jù)都是獨特的，如何打破數(shù)據(jù)孤島并非易事。英特爾中國區(qū)網(wǎng)絡(luò)與邊緣事業(yè)部首席技術(shù)官、英特爾高級首席AI工程師張宇博士就談到，邊緣AI的發(fā)展可以分為三個階段：第一個階段是邊緣推理，第二個階段是邊緣訓(xùn)練，第三個階段是邊緣自主機器學(xué)習(xí)，而邊緣AI目前絕大部分的應(yīng)用還處于邊緣推理階段。

張宇認為，邊緣重要性還體現(xiàn)在可持續(xù)發(fā)展上。由于超過75%的數(shù)據(jù)將放在邊緣進行處理，而處理這些數(shù)據(jù)必將需要能耗，如何實現(xiàn)節(jié)能減排，尤其是在邊緣實現(xiàn)節(jié)能減排有特殊的意義。英特爾在這方面做了大量的工作，包括對處理器架構(gòu)進行更新以及增加各種專用加速引擎，如其第四代至強可擴展處理器當中所包含的vRAN Boost，就能夠提升在無線接入側(cè)系統(tǒng)的效率。據(jù)悉，集成vRAN Boost的第四代英特爾至強可擴展處理器，與上一代相比，能夠在不增加功耗的情況下提供兩倍容量，并額外節(jié)省高達20%的能耗，從而滿足關(guān)鍵的性能、擴展和能效要求。

軟硬結(jié)合實力拿捏

在采訪中Sachin Katti強調(diào)，英特爾的價值定位是要把軟件和硬件綜合起來作為一個整體解決方案組合來提供給客戶?！耙驗閷τ谶吘墎碚f，客戶僅僅靠自己通過硬件去獲得邊緣價值是非常困難的。所以我們在給客戶提供硬件的同時，相應(yīng)也會交付客戶所需要的軟件。目的是希望通過可以讓客戶更加容易地部署和管理好硬件。在AI方面，我們希望通過軟件可以讓客戶更加容易并且能夠最好地去獲得所訓(xùn)練的模型當中可得到的AI性能?！贝送?，他表示，英特爾也在專注于開放的網(wǎng)絡(luò)連接技術(shù)，將大量的GPU和加速器連接起來，從而讓大模型的訓(xùn)練更加方便。

本月上旬，英特爾在中國市場正式發(fā)布了第二代Gaudi深度學(xué)習(xí)加速器——Habana Gaudi 2。Gaudi2深度學(xué)習(xí)加速器的架構(gòu)旨在高效擴展，以滿足大規(guī)模語言模型及生成式AI模型的需求。其每張芯片集成了21個專用于內(nèi)部互聯(lián)的100Gbps(RoCEv2 RDMA)以太網(wǎng)接口，從而實現(xiàn)低延遲服務(wù)器內(nèi)擴展。Gaudi2加速器的出色性能在6月公布的MLCommons MLPerf 基準測試中得到了充分認證，其在GPT-3模型、計算機視覺模型ResNet-50(使用8個加速器)、Unet3D(使用8個加速器)，以及自然語言處理模型BERT(使用8個和64個加速器)上均取得了優(yōu)異的訓(xùn)練結(jié)果。

另外，在此次峰會上，英特爾還發(fā)布了第二代英特爾 NetSec加速器參考設(shè)計。這款全新加速卡基于英特爾至強D系列處理器而打造，創(chuàng)新性地將一臺x86服務(wù)器設(shè)計成智能網(wǎng)卡形態(tài)，可大幅減少系統(tǒng)的空間占用和功耗。基于英特爾 NetSec 加速卡參考設(shè)計實現(xiàn)的首款產(chǎn)品將由合作伙伴量產(chǎn)上市，在最大程度滿足軟件定義、自動化和彈性擴展的同時，讓客戶享受到更安全、更可靠、更靈活及更高效的智能計算體驗。

在軟件層面，英特爾近期發(fā)布了 OpenVINO 2023.0版本，可以從更大程度上幫助AI開發(fā)者簡化工作流程，在企業(yè)中更高效地部署高質(zhì)量的計算機視覺AI解決方案，以推動創(chuàng)新和自動化發(fā)展。據(jù)介紹，OpenVINO可以把在云端進行的大模型訓(xùn)練成果在邊緣進行壓縮和優(yōu)化，從而可以使大模型得到更加廣泛的使用。同時，通過用于數(shù)據(jù)上傳、標注、模型訓(xùn)練和再訓(xùn)練的單一接口，英特爾Geti商用軟件平臺能夠幫助開發(fā)團隊減少模型開發(fā)所需時間，并降低AI開發(fā)技術(shù)門檻及開發(fā)成本。

張宇指出，算力和網(wǎng)絡(luò)能力是整個大模型平臺整體性能的兩個關(guān)鍵要素。他介紹到，作為英特爾剛成立不久的一個新事業(yè)部門，英特爾網(wǎng)絡(luò)與邊緣事業(yè)部所提供的的產(chǎn)品之一為IPU（Infrastructure Processing Unit），該產(chǎn)品能夠為用戶提供一個可靠的數(shù)據(jù)的傳輸，來滿足大模型訓(xùn)練里頭對網(wǎng)絡(luò)可靠性、丟包率的嚴格要求，同時它能夠達到100G、200G甚至更高的線速，可以滿足大模型訓(xùn)練對網(wǎng)絡(luò)速度的要求?！霸诖竽Ｐ头矫?，英特爾的產(chǎn)品實際上涵蓋了計算、通訊等各個領(lǐng)域，我們可以給客戶提供一個相對來說比較全面的方案。”他表示。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。