【ITBEAR科技資訊】8月9日消息,Nvidia(英偉達(dá))近日發(fā)布了全新升級版的下一代超級芯片平臺Grace Hopper GH200,旨在滿足人工智能和高性能計算領(lǐng)域的需求。新一代的Grace Hopper GH200超級芯片平臺采用了先進(jìn)的HBM3e內(nèi)存技術(shù),在內(nèi)存容量和傳輸速率方面取得了顯著的提升。
據(jù)了解,去年3月,英偉達(dá)首次推出了Grace Hopper超級芯片,該芯片在一塊主板上融合了CPU和GPU,為人工智能和高性能計算提供了強(qiáng)大的計算能力。
HBM3e內(nèi)存技術(shù)是一種全新的高帶寬內(nèi)存技術(shù),能夠在更小的空間內(nèi)提供更高的數(shù)據(jù)傳輸速率。而這一次的升級版GH200 Grace Hopper超級芯片平臺則在72核的Grace CPU和GH100 Hopper計算GPU的基礎(chǔ)上,引入了480 GB ECC LPDDR5X內(nèi)存以及配備141 GB的HBM3e內(nèi)存,HBM3e內(nèi)存分為六個24 GB的堆棧,使用了6144位的內(nèi)存接口。值得注意的是,盡管實際安裝了144 GB的內(nèi)存,但可用的內(nèi)存為141 GB。
根據(jù)英偉達(dá)的介紹,新款的GH200 Grace Hopper超級芯片平臺搭載96 GB的HBM3內(nèi)存,其帶寬低于4 TB/s。相比之下,升級版的內(nèi)存容量增加了約50%,帶寬提升了25%以上,達(dá)到了5 TB/s。這樣的巨大改進(jìn)使得新平臺能夠運(yùn)行比初代版本更為龐大的人工智能模型,并為各種任務(wù),尤其是訓(xùn)練任務(wù),提供了明顯的性能提升。
據(jù)ITBEAR科技資訊了解,配備HBM3內(nèi)存的GH200 Grace Hopper超級芯片平臺已經(jīng)進(jìn)入了生產(chǎn)階段,預(yù)計下個月將開始商業(yè)銷售。而配備HBM3e內(nèi)存的升級版GH200 Grace Hopper超級芯片平臺目前正在進(jìn)行樣品測試,預(yù)計將在2024年第二季度正式上市。
與此同時,英偉達(dá)強(qiáng)調(diào),新款的GH200 Grace Hopper芯片平臺使用了與原版相同的Grace CPU和GH100 GPU芯片,因此公司不需要推出任何新版本或步進(jìn)。這也意味著原版和升級版的GH200將共同存在于市場上,后者將以更高的價格銷售,因為它具備更先進(jìn)的內(nèi)存技術(shù),從而帶來更高的性能水平。
最后,英偉達(dá)表示,配備HBM3e內(nèi)存的下一代Grace Hopper超級芯片平臺完全符合英偉達(dá)的MGX服務(wù)器規(guī)范,并且可以與現(xiàn)有的服務(wù)器設(shè)計直接兼容。這將為用戶帶來更為便利的升級和部署選擇。