【ITBEAR科技資訊】6月5日消息,英特爾在OpenVINO?工具套件發(fā)布五周年之際,舉辦了OpenVINO? DevCon中國(guó)系列工作坊2023活動(dòng)。該活動(dòng)旨在通過(guò)每月一次的工作坊,持續(xù)幫助開(kāi)發(fā)者系統(tǒng)學(xué)習(xí)和提升,促進(jìn)開(kāi)發(fā)者在AI領(lǐng)域的發(fā)展。
據(jù)ITBEAR科技資訊了解,英特爾成功舉辦了首期OpenVINO? DevCon 2023系列活動(dòng),以“煥然五周年·瞰見(jiàn)新特性”為主題。在本次活動(dòng)上,英特爾發(fā)布了全新的英特爾?OpenVINO? 2023.0版本,該版本功能更加強(qiáng)大,旨在幫助AI開(kāi)發(fā)者簡(jiǎn)化工作流程,提升部署效率。
OpenVINO?作為一款深度學(xué)習(xí)推理工具,在過(guò)去幾年中已經(jīng)幫助數(shù)十萬(wàn)開(kāi)發(fā)者顯著提升了AI推理性能。憑借OpenVINO?,開(kāi)發(fā)者只需幾行代碼即可實(shí)現(xiàn)高性能的“一次編寫,任意部署”,并且自動(dòng)選擇最佳硬件配置,提升了開(kāi)發(fā)效率。由于OpenVINO?能夠在不同硬件平臺(tái)上高效準(zhǔn)確地進(jìn)行推理,這項(xiàng)技術(shù)已廣泛應(yīng)用于教育、零售、醫(yī)療和工業(yè)等各個(gè)領(lǐng)域,為行業(yè)客戶提供了高效的深度學(xué)習(xí)推理技術(shù),帶來(lái)了巨大價(jià)值。
OpenVINO? 2023.0版本在過(guò)去的基礎(chǔ)上新增了許多優(yōu)勢(shì)。首先,它提供了更多的集成,最大限度減少了代碼變更的需求。開(kāi)發(fā)者在優(yōu)化模型時(shí),無(wú)需離線轉(zhuǎn)換TensorFlow模型,而是可以直接加載標(biāo)準(zhǔn)的TensorFlow模型到OpenVINO? Runtime或OpenVINO? Model Server中,并實(shí)現(xiàn)自動(dòng)轉(zhuǎn)換。當(dāng)需要最大性能時(shí),仍然可以選擇離線轉(zhuǎn)換為OpenVINO?格式。其次,OpenVINO? 2023.0版本具備更廣泛的模型支持,包括生成式AI模型、文本處理模型和其他關(guān)鍵模型的支持。開(kāi)發(fā)者在使用GPU時(shí)不再需要更改為靜態(tài)輸入,具有更大的靈活性。此外,通過(guò)神經(jīng)網(wǎng)絡(luò)壓縮框架(NNCF),可以更輕松地實(shí)現(xiàn)對(duì)模型的壓縮,從而獲得更大的性能改進(jìn)。
此外,OpenVINO? 2023.0版本具有出色的可移植性和性能。CPU設(shè)備插件現(xiàn)在支持線程調(diào)度,開(kāi)發(fā)者可以根據(jù)應(yīng)用程序的優(yōu)先級(jí)選擇在不同的核上運(yùn)行推理,以優(yōu)化性能或節(jié)能。無(wú)論使用哪種插件,OpenVINO?都將提供最佳性能格式。另外,在GPU上,OpenVINO? 2023.0版本通過(guò)更高效的模型加載和編譯改進(jìn)了模型緩存。
除了對(duì)OpenVINO?的持續(xù)更新迭代,英特爾還發(fā)布了“英特爾? Developer Cloud for the Edge”平臺(tái)的公測(cè)版。該平臺(tái)提供了對(duì)英特爾最新架構(gòu)CPU、GPU、VPU和FPGA等硬件資源的訪問(wèn),同時(shí)支持容器化和裸機(jī)應(yīng)用部署,加速人工智能方案的開(kāi)發(fā)、驗(yàn)證和部署,提高應(yīng)用開(kāi)發(fā)效率和產(chǎn)品選型優(yōu)化。該平臺(tái)還將持續(xù)優(yōu)化用戶體驗(yàn),引入本地參考實(shí)現(xiàn)和相關(guān)邊緣設(shè)備,擴(kuò)建基礎(chǔ)服務(wù)硬件以滿足不同用戶對(duì)測(cè)試設(shè)備多樣性的需求。