6月5日消息，在OpenVINO?工具套件發(fā)布五周年之際，英特爾開展OpenVINO? DevCon中國系列工作坊2023活動，旨在通過每月一次的工作坊，持續(xù)助力開發(fā)者系統(tǒng)學習、穩(wěn)步提升。基于此，英特爾成功舉辦了首期以“煥然五周年?瞰見新特性”為主題的OpenVINO? DevCon 2023系列活動，并在此次活動上發(fā)布了功能更加強大的全新英特爾?OpenVINO? 2023.0版本，以期在更大程度上幫助AI開發(fā)者簡化工作流程，提升部署效率。
作為一款深度學習推理工具，OpenVINO?已幫助數(shù)十萬開發(fā)者大幅提升了AI推理性能，使其僅憑借幾行代碼即可實現(xiàn)高性能“一次編寫，任意部署”，并自動為開發(fā)者選擇最佳硬件配置，提升開發(fā)效率。由于OpenVINO?能夠使訓練好的神經(jīng)網(wǎng)絡模型在不同硬件平臺上進行高效且準確的推理，這項技術已被廣泛應用于教育、零售、醫(yī)療和工業(yè)等各個領域，為行業(yè)客戶提供了高效的深度學習推理技術，帶來了巨大價值。例如，在試卷批改場景中，學生和老師在鋪有點碼試卷上書寫的筆跡可通過智慧筆進行實時搜集，隨后分別被上傳到云端服務器上。云端渲染服務器會將筆跡渲染成圖像，并進一步通過目標檢測模型和OCR模型檢測識別，將書寫內(nèi)容轉(zhuǎn)換為文本，最后將識別結(jié)果與題庫進行綜合整理，生成作業(yè)報告。老師可以基于作業(yè)報告，針對學生進行個性化教學。在此過程中，通過 OpenVINO?精度感知而量化出的模型推理速度相比于浮點模型有十幾倍的提升，且量化模型的召回率和準確率與浮點模型相當，在滿足精度要求的情況下，達到了推理實時性的要求。
自2018年首發(fā)OpenVINO?工具套件以來，英特爾密切關注市場需求，著眼未來發(fā)展趨勢，持續(xù)迭代更新，將其對模型的支持從計算機視覺擴展到自然語言處理，不斷賦予其更高性能，使其更加易用、更加靈活、更加開放和更加全面。英特爾基于此次活動發(fā)布的OpenVINO? 2023.0版本在以往的基礎上，新增了以下優(yōu)勢：
●更多的集成,最大限度減少代碼變更：OpenVINO? 2023.0使從訓練模型轉(zhuǎn)移到部署的過程變得更加輕松。在優(yōu)化模型時，開發(fā)者無需離線轉(zhuǎn)換TensorFlow模型，而是可以自動進行。開發(fā)者可采用標準的TensorFlow模型，并將其直接加載到OpenVINO? Runtime或OpenVINO? Model Server中。當需要最大性能時，仍然鼓勵離線轉(zhuǎn)換為OpenVINO?格式。
●更廣泛的模型支持：OpenVINO? 2023.0具備更廣泛的生成式AI模型（CLIP BLIP、Stable Diffusion 2.0等）、文本處理模型（GPT、Transformer模型等）及其他關鍵模型（Detectron2、PaddleSlim、RNN-T等）的支持。開發(fā)者在利用GPU（CPU于2022年啟用）時不再需要更改為靜態(tài)輸入，這使其在編碼方面具有更大靈活性。與此同時，神經(jīng)網(wǎng)絡壓縮框架（NNCF）成為量化工具的一種選擇。通過壓縮模型中的數(shù)據(jù)，可以更輕松地實現(xiàn)大幅模型性能改進。
●出色的可移植性和性能：CPU設備插件現(xiàn)在在英特爾?第12代酷睿處理器及以上版本上提供線程調(diào)度，開發(fā)者可根據(jù)應用程序的優(yōu)先級選擇在E核、P核或兩者上運行推理，根據(jù)需要優(yōu)化性能或節(jié)能。此外，無論開發(fā)者使用哪種插件，OpenVINO?都將默認提供最佳性能格式。同時，OpenVINO? 2023.0還通過更高效的模型加載/編譯改進了GPU上的模型緩存。
除了針對OpenVINO?的持續(xù)更新迭代，英特爾還于近期發(fā)布了“英特爾? Developer Cloud for the Edge”平臺公眾測試版。該平臺可滿足開發(fā)者訪問英特爾最新架構(gòu)CPU、GPU、VPU和FPGA等硬件資源的需要，無需配置即可調(diào)用英特爾最新OpenVINO?工具套件等其他軟件資源。同時，該平臺還支持容器化和裸機應用部署，可確保開發(fā)者獲得真實性能數(shù)據(jù)，加速人工智能方案開發(fā)、驗證與部署落地過程，提高應用開發(fā)效率和產(chǎn)品選型優(yōu)化。“英特爾? Developer Cloud for the Edge”平臺將持續(xù)優(yōu)化中國區(qū)用戶體驗，引入本地參考實現(xiàn)和相關邊緣設備，擴建基礎服務硬件以支撐更多用戶訪問，滿足不同用戶對測試設備多樣性的需求。
免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。
