近日， OPEN AI LAB(開(kāi)放智能)面向AIoT場(chǎng)景推出的邊緣AI計(jì)算框架Tengine成功完成了百度飛槳2.x系列版本的適配。后續(xù)雙方將共同發(fā)力，攜手降低企業(yè)人工智能應(yīng)用開(kāi)發(fā)門(mén)檻、推動(dòng)人工智能產(chǎn)業(yè)落地，助力AI落地更簡(jiǎn)單。
面對(duì)萬(wàn)億級(jí)的AIoT市場(chǎng)，行業(yè)落地必然離不開(kāi)場(chǎng)景。如何以場(chǎng)景為驅(qū)動(dòng)、數(shù)據(jù)為核心、芯片為骨架、平臺(tái)工具為依托加速行業(yè)智能化進(jìn)程是關(guān)鍵。
在過(guò)去的4年中，開(kāi)放智能打造了一套開(kāi)放的邊緣AI計(jì)算框架Tengine，實(shí)現(xiàn)最廣泛的芯片層適配，為開(kāi)發(fā)者及合作伙伴提供芯片級(jí)易用性及業(yè)務(wù)加速，為行業(yè)落地提供邊緣計(jì)算模式下的基礎(chǔ)支撐，幫助開(kāi)發(fā)者真正解決產(chǎn)業(yè)化的全棧工作難題，整體提升體系化生產(chǎn)力，讓 AI場(chǎng)景落地不再困難重重。作為開(kāi)放的邊緣 AI 計(jì)算框架，Tengine 不僅能幫助開(kāi)發(fā)者在開(kāi)發(fā)過(guò)程中進(jìn)一步提升算法移植和部署效能;從長(zhǎng)期看，它也為打破 AIoT 產(chǎn)業(yè)壁壘，快速整合上下游以實(shí)現(xiàn) AIoT 產(chǎn)業(yè)的落地和應(yīng)用，為豐富全球 AI 開(kāi)源生態(tài)提供了重要的推動(dòng)力。
Tengine攜手百度飛槳，讓算法落地部署更簡(jiǎn)單
OPEN AI LAB的邊緣AI計(jì)算框架Tengine可適配百度飛槳2.x的模型格式，方便開(kāi)發(fā)者使用。本次適配了卷積、池化、激活、全連接、歸一化等常用算子，同時(shí)打通了PaddleClas/PaddleDetection 中的MobileNetV2分類(lèi)網(wǎng)絡(luò)和YOLOv3目標(biāo)檢測(cè)網(wǎng)絡(luò)。
Tengine在NPU側(cè)部署有成熟的工具，支持使用飛槳訓(xùn)練的模型通過(guò)Tengine直接部署，發(fā)揮兩家的長(zhǎng)處，降低部署難度;讓用戶可以直接加載飛槳產(chǎn)業(yè)級(jí)模型庫(kù)里面的模型，提供更簡(jiǎn)單的開(kāi)發(fā)算法和應(yīng)用，從而達(dá)到實(shí)際落地的需求，從而擴(kuò)大其訓(xùn)練框架部署的生態(tài)，助力其算法開(kāi)發(fā)能力更便捷，算法落地部署更簡(jiǎn)單。
本次雙方的合作，意味著Tengine已經(jīng)完成對(duì)百度飛槳的適配，進(jìn)一步擴(kuò)大了雙方在AI產(chǎn)業(yè)的生態(tài)。
Tengine Framework框架圖
如何走順深度學(xué)習(xí)的最后一公里
5月20日，深度學(xué)習(xí)技術(shù)及應(yīng)用國(guó)家工程實(shí)驗(yàn)室與百度聯(lián)合主辦的WAVE SUMMIT 2021深度學(xué)習(xí)開(kāi)發(fā)者峰會(huì)在北京召開(kāi)。Tengine開(kāi)源項(xiàng)目技術(shù)負(fù)責(zé)人圈圈蟲(chóng)受邀參加了《如何走順深度學(xué)習(xí)的最后一公里》圓桌對(duì)話。
圈圈蟲(chóng)在對(duì)談中表示，深度學(xué)習(xí)最后一公里在端側(cè)面臨最大的困境是不同訓(xùn)練框架導(dǎo)出的模型在差異化的邊緣計(jì)算設(shè)備上部署難以解耦，以及邊緣計(jì)算設(shè)備低比特量化策略層出不窮、精度難以統(tǒng)一評(píng)估的問(wèn)題。OPEN AI LAB的Tengine項(xiàng)目通過(guò)增強(qiáng)垮硬件平臺(tái)的移植性，解耦前端模型與后端硬件，支持計(jì)算圖自動(dòng)切分、混合精度，增強(qiáng)異構(gòu)計(jì)算單元使用的靈活性等方式去解決這樣的問(wèn)題，并提出了軟件廠商應(yīng)該結(jié)合開(kāi)源硬件設(shè)備，推廣普及1-2種低比特量化方案的倡議。
Tengine作為第三方部署平臺(tái)，一直持有開(kāi)放、合作的精神，與飛槳及多家訓(xùn)練框架合作，希望能成為國(guó)內(nèi)訓(xùn)練框架技術(shù)互通的橋梁。
關(guān)于OPEN AI LAB Tengine
Tengine是OPEN AI LAB推出的邊緣AI計(jì)算框架，致力于解決AIoT產(chǎn)業(yè)鏈碎片化問(wèn)題，加速AI產(chǎn)業(yè)化落地。Tengine為了解決AIoT應(yīng)用落地問(wèn)題，重點(diǎn)關(guān)注嵌入式設(shè)備上的邊緣AI計(jì)算推理，為海量AIoT應(yīng)用和設(shè)備提供高性能AI推理的技術(shù)賦能。
一方面可以通過(guò)異構(gòu)計(jì)算技術(shù)同時(shí)調(diào)用CPU、GPU、DSP、NPU等不同計(jì)算單元來(lái)完成AI網(wǎng)絡(luò)計(jì)算，另一方面，它支持TensorFlow、Caffe、MXNet、PyTorch、MegEngine、DarkNet、ONNX、ncnn等業(yè)內(nèi)主流框架，簡(jiǎn)化并加速面向場(chǎng)景的AI算法在嵌入式邊緣設(shè)備上快速遷移，以及實(shí)際應(yīng)用部署落地，提升十倍基礎(chǔ)開(kāi)發(fā)的效率。
OPEN AI LAB是國(guó)際上為數(shù)不多的通過(guò)ONNX官方認(rèn)證的戰(zhàn)略合作伙伴之一。在CSDN發(fā)布的《中國(guó) AI 應(yīng)用開(kāi)發(fā)者報(bào)告》上，被評(píng)為“開(kāi)發(fā)者最喜愛(ài)的本土 AI軟件 工具”。
OPEN AI LAB將在 “Powered by Tengine” 生態(tài)伙伴合作項(xiàng)目平臺(tái)上，與更多同道一起，共同構(gòu)建AIoT產(chǎn)業(yè)生態(tài)，助力產(chǎn)業(yè)智能化的變革，賦能萬(wàn)物，萬(wàn)物智能!
關(guān)于百度飛槳(PaddlePaddle)
飛槳(PaddlePaddle)以百度多年的深度學(xué)習(xí)技術(shù)研究和業(yè)務(wù)應(yīng)用為基礎(chǔ)，是中國(guó)首個(gè)開(kāi)源開(kāi)放、技術(shù)領(lǐng)先、功能完備的產(chǎn)業(yè)級(jí)深度學(xué)習(xí)平臺(tái)。百度飛槳已經(jīng)凝聚了320萬(wàn)開(kāi)發(fā)者，累計(jì)commits超過(guò)16萬(wàn)次，以PR或ISSUE提交形式的開(kāi)源貢獻(xiàn)者超過(guò)了5000位，其中有120位優(yōu)秀的開(kāi)發(fā)者通過(guò)層層篩選成為了百度飛槳開(kāi)發(fā)者技術(shù)專(zhuān)家(PPDE)。產(chǎn)業(yè)應(yīng)用方面，飛槳服務(wù)了12萬(wàn)家企業(yè)，平臺(tái)上擁有36萬(wàn)個(gè)模型。秉持開(kāi)源開(kāi)放、技術(shù)創(chuàng)新，產(chǎn)學(xué)研用通力融合，飛槳在產(chǎn)業(yè)應(yīng)用、人才培養(yǎng)、開(kāi)源社區(qū)三方面實(shí)現(xiàn)了生態(tài)的全面繁榮。
關(guān)于OPEN AI LAB
OPEN AI LAB(開(kāi)放智能)是一家專(zhuān)注邊緣智能計(jì)算及應(yīng)用的高科技企業(yè)，提供邊緣AI計(jì)算框架與場(chǎng)景化能力生產(chǎn)力工具，簡(jiǎn)化應(yīng)用部署，致力于打造中國(guó)最易用的人工智能邊緣開(kāi)發(fā)部署平臺(tái)。未來(lái)將用十年時(shí)間構(gòu)建起中國(guó)最領(lǐng)先的邊緣計(jì)算生態(tài)體系，助力中國(guó)成千上萬(wàn)的企業(yè)高效、低門(mén)檻地實(shí)現(xiàn)智能化升級(jí)轉(zhuǎn)型。
