11月15日,在高交會(huì)開(kāi)幕式上,云天勵(lì)飛重磅發(fā)布新一代AI芯片DeepEdge10。
云天勵(lì)飛董事長(zhǎng)兼CEO陳寧博士在高交會(huì)開(kāi)幕式上介紹DeepEdge10芯片
DeepEdge10是國(guó)內(nèi)首創(chuàng)的國(guó)產(chǎn)14nm Chiplet大模型推理芯片,采用自主可控的國(guó)產(chǎn)工藝,內(nèi)含國(guó)產(chǎn)RISC-V核,支持大模型推理部署。依托自研芯片DeepEdge10創(chuàng)新的D2D chiplet架構(gòu)打造的X5000推理卡,已適配并可承載SAM CV大模型、Llama2等百億級(jí)大模型運(yùn)算,可廣泛應(yīng)用于AIoT邊緣視頻、移動(dòng)機(jī)器人等場(chǎng)景。
DeepEdge10
DeepEdge10 Max
云天勵(lì)飛是國(guó)內(nèi)少有的自成立之初就堅(jiān)持芯片研發(fā)的AI企業(yè),目前已完成了3代指令集架構(gòu)、4代神經(jīng)網(wǎng)絡(luò)處理器架構(gòu)的研發(fā),且已陸續(xù)商用。更可貴的是,通過(guò)多年的投入,公司已建立起一支核心芯片團(tuán)隊(duì),設(shè)計(jì)經(jīng)驗(yàn)平均超過(guò)14年。云天勵(lì)飛的芯片還先后獲得工信部、發(fā)改委、科技部三大部委人工智能專(zhuān)項(xiàng),并三度獲得“吳文俊人工智能科學(xué)技術(shù)獎(jiǎng)”。
大模型時(shí)代,AI推理芯片是應(yīng)用落地的關(guān)鍵承載體
邊緣計(jì)算的市場(chǎng)價(jià)值呈現(xiàn)高速發(fā)展趨勢(shì)。IDC預(yù)測(cè),到2023年底,全球的邊緣計(jì)算市場(chǎng)將達(dá)到2000億美金的規(guī)模;預(yù)計(jì)到2026年,邊緣計(jì)算市場(chǎng)將突破3000億美金。
邊緣計(jì)算的場(chǎng)景呈現(xiàn)出算力碎片化、算法長(zhǎng)尾化、產(chǎn)品非標(biāo)化、規(guī)模碎片化的特征,傳統(tǒng)的算法開(kāi)發(fā)和芯片都難以適應(yīng)新一代人工智能邊緣計(jì)算場(chǎng)景的產(chǎn)品化需求。大模型的出現(xiàn),為行業(yè)提供了算法層面的解決之道。但大模型在邊緣計(jì)算場(chǎng)景要面向?qū)崙?zhàn)發(fā)揮作用,則需要AI大模型推理芯片的支持。
對(duì)于AI芯片而言,大模型帶來(lái)全新的計(jì)算泛式和計(jì)算要求。芯片需要具備更大的算力、更大的內(nèi)存帶寬、更大的內(nèi)存容量,才能支持巨量參數(shù)的大模型在邊緣端運(yùn)行。同時(shí),AI邊緣推理芯片還承擔(dān)了“落地應(yīng)用最后一公里”的職責(zé),這就意味著AI邊緣推理芯片不僅要支持大模型等AI計(jì)算任務(wù),還需要具備較強(qiáng)的通用算力。
針對(duì)上述場(chǎng)景需求,云天勵(lì)飛打造了新一代邊緣計(jì)算芯片DeepEdge10。該芯片具有SoC主控集成度;采用D2D Chiplet技術(shù)和C2C Mesh擴(kuò)展架構(gòu),可實(shí)現(xiàn)算力的靈活擴(kuò)展;內(nèi)置云天勵(lì)飛最新的第四代神經(jīng)網(wǎng)絡(luò)處理器。
基于一系列創(chuàng)新技術(shù),云天勵(lì)飛打造了系列化芯片。目前已開(kāi)發(fā)出 Edge10C、Edge10 標(biāo)準(zhǔn)版和 Edge10Max 三款芯片;出貨形態(tài)包括芯片、板卡、盒子、加速卡、推理服務(wù)器等,可廣泛應(yīng)用于AIoT邊緣視頻、移動(dòng)機(jī)器人等場(chǎng)景。依托Dee Edge10創(chuàng)新的D2D chiplet架構(gòu)打造的X5000推理卡,已適配并可承載SAM CV大模型、Llama2等百億級(jí)大模型運(yùn)算。
目前,云天勵(lì)飛已向國(guó)內(nèi)頭部的AIoT芯片設(shè)計(jì)廠商、智慧汽車(chē)芯片設(shè)計(jì)廠商、服務(wù)機(jī)器人廠商、國(guó)家重點(diǎn)實(shí)驗(yàn)室等提供神經(jīng)網(wǎng)絡(luò)處理器的IP授權(quán)。
云天勵(lì)飛副總裁、芯片產(chǎn)品線(xiàn)總經(jīng)理李?lèi)?ài)軍在云天勵(lì)飛AI芯片發(fā)布會(huì)上詳細(xì)介紹DeepEdge10情況
算法芯片化,云天勵(lì)飛打造AI芯片的核心“武器”
云天勵(lì)飛自2014年成立之初一直堅(jiān)持自主研發(fā)芯片,沉淀“算法芯片化”的核心能力。“算法芯片化”并不是簡(jiǎn)單的“算法+芯片”,而是云天勵(lì)飛基于對(duì)場(chǎng)景的理解,以及對(duì)算法關(guān)鍵計(jì)算任務(wù)在應(yīng)用場(chǎng)景中的量化分析,將芯片設(shè)計(jì)者的理念、思想與算法相融合的AI芯片設(shè)計(jì)流程,能夠讓AI芯片在實(shí)際應(yīng)用中發(fā)揮更優(yōu)的效果。
在算法芯片化核心能力的支持下,云天勵(lì)飛目前已完成了3代指令集架構(gòu)、4代神經(jīng)網(wǎng)絡(luò)處理器架構(gòu)的研發(fā),且已陸續(xù)商用。更可貴的是,通過(guò)多年的投入,公司已建立起一支核心芯片團(tuán)隊(duì),設(shè)計(jì)經(jīng)驗(yàn)平均超過(guò)14年。
云天勵(lì)飛的自主研發(fā)芯片,也是公司自進(jìn)化城市智能體戰(zhàn)略的重要引擎。2020年,云天勵(lì)飛在高交會(huì)上正式發(fā)布自進(jìn)化城市智能體戰(zhàn)略。驅(qū)動(dòng)自進(jìn)化城市智能體發(fā)展的核心邏輯,是打造“應(yīng)用生產(chǎn)數(shù)據(jù)、數(shù)據(jù)訓(xùn)練算法、算法定義芯片、芯片規(guī)?；x能應(yīng)用”的數(shù)據(jù)飛輪。芯片是決定AI應(yīng)用廣度與深度的關(guān)鍵載體,也是自進(jìn)化城市智能體建設(shè)的重要算力支撐。
未來(lái),云天勵(lì)飛將繼續(xù)加大自主研發(fā)力度,立足自主可控,以自研“芯”,為自進(jìn)化城市智能體發(fā)展提供強(qiáng)大引擎。
