NVIDIA今天同時(shí)發(fā)布了新一代Hopper H100 GPU核心、Grace CPU處理器,還把二者放在了一張卡上,命名為“Grace Hopper”,官方稱之為密度最高達(dá)到加速計(jì)算系統(tǒng)。
兩顆芯片并排放置,彼此之間通過NVLink總線進(jìn)行芯片間通信,帶寬達(dá)900GB/s。
具體規(guī)格暫未公布,但應(yīng)該做不到同時(shí)滿血,尤其是Hopper GPU。
Grace CPU基于ARMv9架構(gòu)指令集設(shè)計(jì),72個(gè)核心,集成198MB緩存,搭檔LPDDR5X內(nèi)存,支持ECC。
Hopper GH100 GPU 18432個(gè)CUDA核心、576個(gè)Tensor核心、60MB二級(jí)緩存、6144-bit HBM2e/HBM3顯存位寬。
H100計(jì)算卡則只開啟了16896個(gè)CUDA核心、528個(gè)Tensor核心、50MB二級(jí)緩存、5120-bit HBM3顯存位寬,Grace Hopper卡上大概率也是這個(gè)規(guī)格。
這種合體“怪物”有啥用?顯然也是做HPC、AI計(jì)算,CPU、GPU可以協(xié)調(diào)分配不同負(fù)載,達(dá)到效率最大化。
同時(shí),NVIDIA還發(fā)布了“Grace CPU SuperChip”,單卡整合兩顆Grace CPU。
NVLink C2C互連,總計(jì)144個(gè)核心、396MB緩存、1TB/s LPDDR5X ECC內(nèi)存,功耗500W。
另外還有“H100 CNX”,同時(shí)集成H100 GPU、CX-7 SmartNIC網(wǎng)絡(luò)芯片。
通過讓GPU直連網(wǎng)絡(luò)消除系統(tǒng)帶寬,支持PCIe 5.0,最高支持7個(gè)多GPU實(shí)例并發(fā)。