3月8日消息，IPU云端和服務(wù)器解決方案提供商Graphcore今日正式發(fā)布全新IPU系統(tǒng)產(chǎn)品——Bow系列。Bow Pod系統(tǒng)產(chǎn)品采用了全球首款3D Wafer-on-Wafer處理器——Bow IPU。Bow IPU是新一代Bow Pod AI計(jì)算機(jī)系統(tǒng)的核心。
值得注意的是，與上代產(chǎn)品相比，Bow Pod可為真實(shí)世界的AI應(yīng)用提供高達(dá)40%的性能提升和16%的電源效率提升，但價(jià)格和前代相比保持不變。同時(shí)，與前一代產(chǎn)品100%軟件兼容，用戶在進(jìn)行部署時(shí)無需更改現(xiàn)有代碼。
Bow Pod比前一代性能提升40% 能效提升16%
Bow Pod旨在為各種AI應(yīng)用大規(guī)模提供真實(shí)世界的性能，從用于自然語言處理的GPT和BERT到用于計(jì)算機(jī)視覺的EfficientNet和ResNet，再到圖神經(jīng)網(wǎng)絡(luò)和許多其他應(yīng)用。
其中，Bow-2000 IPU Machine(以下簡(jiǎn)稱Bow-2000)是整個(gè)Bow Pod系列的基礎(chǔ)組成部分。
Bow-2000 IPU Machine
Bow-2000采用了與Graphcore第二代IPU-M2000 machine同樣的系統(tǒng)架構(gòu)，但配備的是四個(gè)Bow IPU處理器，可提供1.4 PetaFLOPS的AI計(jì)算。Bow-2000可以完全向后兼容現(xiàn)有的IPU-POD系統(tǒng)，其高速、低時(shí)延的IPU結(jié)構(gòu)和靈活的1U外形尺寸保持不變。
Bow Pod系列
Bow-2000可安裝在戴爾、Atos、Supermicro、浪潮和聯(lián)想等領(lǐng)先品牌的主機(jī)服務(wù)器上，從而組成Bow Pod系統(tǒng)。整個(gè)Bow Pod系列包括Bow Pod16(4臺(tái)Bow-2000和一臺(tái)主機(jī)服務(wù)器)、Bow Pod32(8臺(tái)Bow-2000和一臺(tái)主機(jī)服務(wù)器)、Bow Pod64以及更大的旗艦系統(tǒng)Bow Pod256和Bow Pod1024。
Graphcore Pods在數(shù)據(jù)中心
以旗艦產(chǎn)品Bow Pod256為例，其提供超過89 PetaFLOPS的AI計(jì)算，而超大規(guī)模Bow Pod1024可提供350 PetaFLOPS的AI計(jì)算，支持機(jī)器學(xué)習(xí)工程師在AI模型規(guī)模呈指數(shù)增長的情況下仍可領(lǐng)先一步，在機(jī)器智能領(lǐng)域取得新的技術(shù)突破。
Graphcore提供的數(shù)據(jù)顯示，在性能方面，在與配有Bow Pod系統(tǒng)的Mk2 IPU-Pod系統(tǒng)相同的峰值功率范圍內(nèi)，客戶發(fā)現(xiàn)各種AI應(yīng)用的性能提升高達(dá)40%。
在CNN網(wǎng)絡(luò)、Vision Transformer的網(wǎng)絡(luò)以及深層次的文本到圖片的網(wǎng)絡(luò)模型訓(xùn)練中，Bow Pod相比前一代產(chǎn)品性能都有30%多的提升，EfficientNet-B4網(wǎng)絡(luò)下性能提升可以達(dá)到39%。
同時(shí)，Bow Pod系統(tǒng)還可以大幅提高電源效率。經(jīng)過一系列實(shí)際應(yīng)用測(cè)試表明，Bow Pod的每瓦性能最高可提升16%。
對(duì)于最先進(jìn)的計(jì)算機(jī)視覺模型EfficientNet，Bow Pod16性能比同類Nvidia DGX A100系統(tǒng)提升5倍以上，而價(jià)格只有一半，總體擁有成本優(yōu)勢(shì)提升高達(dá)10倍。
Bow IPU處理器黑科技：Wafer-on-Wafer創(chuàng)新技術(shù)
為何此次推出的全新一代IPU產(chǎn)品Bow Pod系列能有如此優(yōu)異的性能和能效表現(xiàn)呢?
Graphcore大中華區(qū)總裁兼全球首席營收官盧濤揭秘表示，作為Bow-2000、Bow Pod系統(tǒng)的核心，Bow IPU處理器采用了全球首項(xiàng)3D半導(dǎo)體技術(shù)，從而支持Bow Pod系統(tǒng)實(shí)現(xiàn)了巨大的性能提升和更高的電源效率。
據(jù)悉，Wafer-on-Wafer 3D技術(shù)由Graphcore與臺(tái)積電合作開發(fā)，并首次應(yīng)用在IPU處理器上。Wafer-on-Wafer技術(shù)有潛力在硅片之間提供更高的帶寬，從而優(yōu)化電源效率，在晶圓級(jí)別提升Colossus架構(gòu)的功率。
Bow IPU中的Wafer-on-Wafer，兩個(gè)晶圓結(jié)合在一起，產(chǎn)生一個(gè)新的3D裸片。其中一個(gè)晶圓用于AI處理，在架構(gòu)上與GC200 IPU處理器兼容，擁有1472個(gè)獨(dú)立的IPU-Core tile，能夠運(yùn)行超過8800個(gè)線程，具有900MB的處理器內(nèi)存儲(chǔ)，而第二個(gè)晶圓擁有供電裸片。
通過在供電裸片中添加深溝槽電容器，位置在處理內(nèi)核和存儲(chǔ)旁，我們能夠更高效地供電，從而實(shí)現(xiàn)350 TeraFLOPS的AI計(jì)算，實(shí)現(xiàn)40%的性能提升。
通過與臺(tái)積電緊密合作，Graphcore已充分驗(yàn)證了整套技術(shù)，包括背面硅通孔(BTSV)和Wafer-on-Wafer(WoW)混合鍵合中的多項(xiàng)突破性技術(shù)。
此外，Graphcore中國工程副總裁、AI算法科學(xué)家金琛補(bǔ)充表示，這些性能數(shù)據(jù)的提升，很大程度也歸功于Graphcore整個(gè)軟件棧Poplar SDK的生態(tài)系統(tǒng)。其中，自研的圖編譯器PopART等軟件的加持使得IPU產(chǎn)品在不同應(yīng)用的性能上能夠得到廣泛和通用的提升。
目前，最新Bow Pod系統(tǒng)現(xiàn)已上市，和上一代產(chǎn)品相比，價(jià)格不變，目前已開始在全球范圍內(nèi)發(fā)貨。
盧濤強(qiáng)調(diào)，Bow Pod系統(tǒng)上市的同時(shí)，針對(duì)IPU-M2000訂單的老用戶會(huì)推出一些優(yōu)惠方案，確保這些老客戶也可以獲得相似的每美元性能。
據(jù)悉，Graphcore的客戶已涵蓋實(shí)驗(yàn)室、醫(yī)藥健康、保險(xiǎn)、云計(jì)算、氣象分析預(yù)測(cè)、分子動(dòng)力學(xué)、智慧城市、互聯(lián)網(wǎng)等諸多行業(yè)。金山云星曜產(chǎn)品(裸金屬服務(wù)器)系列的金山云IPU服務(wù)器就搭載了Graphcore IPU(智能處理器)及Poplar軟件棧。
未來計(jì)劃
Graphcore方面透露，正在開發(fā)一款可以用來超越人腦處理的超級(jí)智能機(jī)器，并將于2024年交付這臺(tái)全球首臺(tái)超級(jí)智能計(jì)算機(jī)——Good Computer(古德計(jì)算機(jī))。
據(jù)介紹，這款超未來的智能計(jì)算機(jī)之所以被命名為Good，一方面是Graphcore致力于打造“好”的計(jì)算機(jī)，一方面是向計(jì)算機(jī)科學(xué)家先驅(qū)Jack Good(杰克·古德)致敬。
目前Graphcore正在開發(fā)新一代IPU技術(shù)，為這款Good Computer提供超過10 Exa-Flops的AI浮點(diǎn)計(jì)算;最高可達(dá)4PB的存儲(chǔ)，帶寬超過10PB/秒;支持超過500萬億參數(shù)的AI模型;3D Wafer-on-Wafer邏輯棧;同時(shí)獲得Poplar SDK的完全支持。
售價(jià)方面，這款Good Computer預(yù)計(jì)價(jià)格在100萬美元至1.5億美元。
