【ITBEAR】英偉達(dá)在SC24超算大會(huì)上推出了兩款全新的AI硬件產(chǎn)品，為AI計(jì)算領(lǐng)域帶來(lái)了新的突破。此次發(fā)布的硬件包括H200 NVL PCIe GPU和GB200 NVL4超級(jí)芯片，兩款產(chǎn)品均針對(duì)特定的市場(chǎng)需求進(jìn)行了優(yōu)化。
針對(duì)那些機(jī)架電力供應(yīng)有限且采用空氣冷卻的數(shù)據(jù)中心，英偉達(dá)推出了H200 NVL PCIe GPU。這款A(yù)I計(jì)算卡采用了PCIe AIC形態(tài)，專為低功耗風(fēng)冷環(huán)境設(shè)計(jì)。盡管其TDP功耗從H200 SXM的700W降低到了600W，但HBM內(nèi)存容量和帶寬依然保持在141GB和4.8TB/s的高水平。H200 NVL還支持雙路或四路的900GB/s NVLink橋接器互聯(lián)，使得多卡之間的數(shù)據(jù)傳輸更加高效。
英偉達(dá)強(qiáng)調(diào)，H200 NVL的內(nèi)存容量是前代產(chǎn)品H100 NVL的1.5倍，帶寬也提升了1.2倍，從而實(shí)現(xiàn)了1.7倍的AI推理性能提升。在HPC應(yīng)用中，其性能也高出30%。這樣的性能提升對(duì)于需要處理大量數(shù)據(jù)和復(fù)雜計(jì)算任務(wù)的企業(yè)來(lái)說(shuō)，無(wú)疑是一個(gè)巨大的福音。
除了H200 NVL之外，英偉達(dá)還推出了面向單服務(wù)器解決方案的GB200 NVL4超級(jí)芯片。這款超級(jí)芯片將2個(gè)Grace CPU和4個(gè)Blackwell GPU進(jìn)行了聚合，形成了一個(gè)強(qiáng)大的計(jì)算單元。其HBM內(nèi)存池容量高達(dá)1.3TB，相當(dāng)于兩組GB200 Grace Blackwell超級(jí)芯片的組合。然而，這樣的性能提升也帶來(lái)了更高的功耗，整體功耗達(dá)到了5.4kW。
與上代GH200 NVL4系統(tǒng)相比，新的GB200 NVL4在模擬性能上提升了2.2倍，AI訓(xùn)練性能和AI推理性能也分別提升了1.8倍。這樣的性能提升使得GB200 NVL4成為了處理大規(guī)模數(shù)據(jù)和復(fù)雜計(jì)算任務(wù)的首選解決方案。據(jù)英偉達(dá)透露，GB200 NVL4超級(jí)芯片將于2025年下半年正式上市，屆時(shí)將為企業(yè)帶來(lái)更加高效和強(qiáng)大的計(jì)算能力。
