摘要:國產(chǎn)自主意識爆發(fā),3.14,億鑄率先提出存算一體超異構(gòu),引領(lǐng)新一代技術(shù)潮流。
AI 3.0時代,國產(chǎn)自主意識爆發(fā)
ChatGPT自出世以來,在國內(nèi)AI界卷起千層浪:
先是百度、科大訊飛等AI大廠紛紛表示自己有著類ChatGPT能力;再是國家發(fā)布東數(shù)西算一體化算力服務(wù)平臺,支撐中國人工智能運算平臺急需的大算力服務(wù)。
而大算力的實現(xiàn),都需仰仗“大腦”AI芯片。
縱觀AI芯片在國內(nèi)的發(fā)展史,我們大致可以將AI芯片國產(chǎn)化分為幾個時代。
在AI芯片國產(chǎn)化1.0時代,繼Google推出ASIC芯片后,國內(nèi)寒武紀、靈汐、華為等國內(nèi)廠商陸續(xù)跟上腳步,針對云端AI應(yīng)用推出ASIC架構(gòu)芯片。
接著AI芯片國產(chǎn)化進入2.0時代。在看到以英偉達為代表的GPGPU架構(gòu)在AI算力芯片上有著不錯的性能表現(xiàn)后,國內(nèi)多個廠商例如天數(shù)智芯、珠海芯動力、壁仞等紛紛布局GPGPU芯片,主打CUDA兼容,試探著AI算力芯片的極限。
在前兩個時代中,國產(chǎn)AI芯片廠商都在竭力順應(yīng)時代潮流,前赴后繼地跟隨國際大廠的步伐,通過研發(fā)最新芯片解決AI算力芯片的挑戰(zhàn)。
現(xiàn)如今,隨著ChatGPT等大模型掀起熱潮,我們站在AI芯片國產(chǎn)化3.0時代的門口,面對越發(fā)嚴峻的地緣政治處境,國產(chǎn)芯片廠商自主意識更為強烈,希望能夠自發(fā)提出芯片解決方案。
例如,國內(nèi)AI大算力芯片企業(yè)億鑄科技,已為中國的AI大算力芯片一次又一次提出先進的解決方案:
先是在2020年,億鑄科技一成立就嘗試通過架構(gòu)創(chuàng)新突破馮·諾伊曼瓶頸,成為首個研發(fā)基于ReRAM(RRAM)全數(shù)字存算一體AI大算力芯片的企業(yè),為解決國內(nèi)AI算力尤其是大算力的困局提供了新的方向。
再是今年3.14日,在《電子創(chuàng)新網(wǎng)》“從ChatGPT的角度聊聊存算一體AI大算力芯片”直播中,億鑄科技創(chuàng)始人熊大鵬博士首次提出“用存算一體超異構(gòu)做AI大算力芯片”的技術(shù)思路。
億鑄科技多次提出新解法是因為,種種跡象表明,AI算力難題愈發(fā)嚴重,國產(chǎn)化AI芯片的處境越來越難。
先是算力本身就因摩爾定律失效在加速狂飆,每5-10個月就要翻倍:
(不同機器學(xué)習(xí)時代的算力增長趨勢 圖源:浙商證券研究所)
到2021年,全球計算設(shè)備算力總規(guī)模達到615EFlops,增速44%。浙商證券預(yù)測,2030年,算力有望增至56ZFlops,CAGR達到65%。而這還是ChatGPT還未降臨之時,正常的算力需求預(yù)測值。
(全球算力規(guī)模及增速 圖源:浙商證券研究所)
2022年底,ChatGPT來臨之后,無疑又將拔高算力的增長曲線:
根據(jù)通信世界數(shù)據(jù),ChatGPT的總算力消耗約為 3640PF-days (即假如每秒計算一千萬億次,需要計算3640天) ,需要 7-8個投資規(guī)模30億、算力500P的數(shù)據(jù)中心才能支撐運行。
而這才是參數(shù)規(guī)模1750億的GPT-3,除此之外還有參數(shù)5620億的PaLM-E……彼時,算力以及其背后的功耗還能顧得過來嗎?
AI算力需求如脫韁的野馬,但FPGA、ASIC、GPGPU等芯片本身,已苦于先進制程久矣。據(jù)芯粒說表示,目前芯片先進制程升級面臨著性能極限、技術(shù)極限、成本極限。成本極限具體來說就是,到了5nm以下,建造一座先進制程的晶圓廠動輒需要上百億美元的投入。
錢是花了,工藝是卷到頭了,但能效比提升有限:
傳統(tǒng)架構(gòu)下,由于數(shù)據(jù)需要頻繁地在存儲、計算單元間來回跑,隨著數(shù)據(jù)越增越多,“存儲墻”、 “能耗墻”、“編譯墻”等問題也愈發(fā)嚴重。
現(xiàn)如今,這“三堵墻”已導(dǎo)致大量算力無謂浪費:據(jù)統(tǒng)計,在大算力的AI應(yīng)用中,數(shù)據(jù)搬運操作消耗90%的時間和功耗,數(shù)據(jù)搬運的功耗是運算的650倍。
ChatGPT們正提出“極為離譜、不切實際”的算力需求,而芯片們又陷入先進制程升級瀕臨極限、能效比提升受阻等困境,時代正呼吁著新鮮的血液注入AI大算力芯片。
突破天花板的底氣
億鑄科技自發(fā)提出的存算一體架構(gòu)、存算一體超異構(gòu)計算皆能為AI大算力困局“排憂解難”:
存算一體架構(gòu),將存儲和計算的融合,能夠打破傳統(tǒng)架構(gòu)下的三堵墻,徹底消除訪存延遲,并極大降低功耗。同時,由于計算完全耦合于存儲,因此可以開發(fā)更細粒度的并行性,獲得更高的性能和能效。
超異構(gòu)計算,能夠把更多的異構(gòu)計算整合重構(gòu),從而各類型處理器間充分地、靈活地進行數(shù)據(jù)交互而形成的計算。
簡單來說,就是結(jié)合DSA、GPU、CPU、CIM等多個類型引擎的優(yōu)勢,實現(xiàn)性能的飛躍:
? DSA負責(zé)相對確定的大計算量的工作;
? GPU負責(zé)應(yīng)用層有一些性能敏感的并且有一定彈性的工作;
? CPU啥都能干,負責(zé)兜底;
? CIM就是存內(nèi)計算,超異構(gòu)和普通異構(gòu)的主要區(qū)別就是加入了CIM,由此可以實現(xiàn)同等算力,更低能耗;同等能耗,更高算力。另外,CIM由于器件的優(yōu)勢,能負擔(dān)比DSA更大的算力。
億鑄科技創(chuàng)始人、存算一體 AI 大算力芯片的開拓者熊大鵬博士表示,其好處在兩個方面:一是在系統(tǒng)層,能夠把整體的效率做到最優(yōu);二是在軟件層,能夠?qū)崿F(xiàn)跨平臺架構(gòu)統(tǒng)一。
億鑄選擇將兩大技術(shù)結(jié)合,即“存算一體超異構(gòu)”的想法,與蘇媽的“系統(tǒng)級創(chuàng)新”不謀而合:在ISSCC 2023,蘇媽提出系統(tǒng)級創(chuàng)新概念,即從整體設(shè)計的上下游多個環(huán)節(jié)協(xié)同設(shè)計來完成芯片性能的提升,并給出使用該概念實現(xiàn)數(shù)量級的效率提升案例。
也就是說,若是將存算一體、Chiplet(芯粒)、3D封裝等技術(shù)同步使用,很有可能帶來數(shù)量級的效率提升,從而突破性能瓶頸。
億鑄提出這一極具創(chuàng)新度的構(gòu)想,也是因為其底氣十足。億鑄科技擁有實力雄厚的研發(fā)、工程及顧問團隊:
其核心研發(fā)團隊成員均為來自國內(nèi)芯片大廠的資深專家,畢業(yè)于斯坦福大學(xué)、哈佛大學(xué)、上海交通大學(xué)、復(fù)旦大學(xué)和中國科學(xué)技術(shù)大學(xué)等。研發(fā)能力覆蓋工藝器件、架構(gòu)設(shè)計、電路設(shè)計和軟件生態(tài)等全鏈條;
其工程團隊核心成員平均擁有25年以上的高端集成電路設(shè)計和量產(chǎn)經(jīng)驗,有著豐富的應(yīng)用和產(chǎn)品化實戰(zhàn)經(jīng)歷。
基于此,作為首發(fā)存算一體超異構(gòu)概念的億鑄科技,提出了自己的技術(shù)暢想:
若能把新型憶阻器技術(shù)(RRAM)、存算一體架構(gòu)、芯粒技術(shù)(Chiplet)、3D封裝等技術(shù)結(jié)合,將會實現(xiàn)更大的有效算力、放置更多的參數(shù)、實現(xiàn)更高的能效比、更好的軟件兼容性、從而抬高AI大算力芯片的發(fā)展天花板。
(關(guān)于存算一體+超異構(gòu) 做AI大算力芯片的技術(shù)暢想 圖源:億鑄科技)
一方面,ChatGPT等大模型的發(fā)展對算力提出了史無前例的要求,吞噬著算力與能源;
另一方面,ChatGPT也為存算一體架構(gòu)、超異構(gòu)等技術(shù)帶來核級推動力。無論是大廠和初創(chuàng)公司,都在為突破算力瓶頸“奮力一搏”?；趦|鑄科技有最適合大算力的器件(RRAM),再加上3D封裝和Chiplet等技術(shù),熊大鵬博士表示,億鑄科技能夠為解決存儲墻、能耗墻問題帶來殺手級的硬件解決方案。
在摩爾定律幾近終結(jié)、ASIC、FPGA以及GPGPU架構(gòu)能效比難以提升的當(dāng)下,億鑄科技率先提出“存算一體超異構(gòu)架構(gòu)” 這一全新的技術(shù)發(fā)展路徑,為我國AI大算力芯片進一步發(fā)展,增添了新的動能。
