【ITBEAR】英偉達在SC24超算大會上正式揭曉了兩款全新的AI硬件產品，引起了業(yè)界的廣泛關注。這兩款產品分別是H200 NVL PCIe GPU和GB200 NVL4超級芯片，它們的推出標志著英偉達在AI計算領域邁出了重要的一步。
據(jù)英偉達介紹，當前市場中約有七成的企業(yè)機架僅能提供不到20kW的電力供應，并且主要依賴空氣冷卻。為了滿足這些環(huán)境下的需求，英偉達推出了H200 NVL PCIe GPU。這款AI計算卡采用了低功耗設計，專為風冷環(huán)境打造。
H200 NVL PCIe GPU采用了雙槽厚度設計，其最高TDP功耗相較于H200 SXM降低了100W，達到了600W。盡管算力有所下降，例如INT8 Tensor Core算力下滑了約15.6%，但其HBM內存容量和帶寬卻保持不變，分別為141GB和4.8TB/s。這款GPU還支持雙路或四路的900GB/s NVLink橋接器互聯(lián)，為高性能計算提供了強大的支持。
英偉達強調，H200 NVL的內存容量是前代產品H100 NVL的1.5倍，帶寬也達到了1.2倍，從而實現(xiàn)了1.7倍的AI推理性能提升。在HPC應用中，其性能也高出30%，為用戶帶來了更為出色的計算體驗。
除了H200 NVL PCIe GPU外，英偉達還推出了面向單服務器解決方案的GB200 NVL4超級芯片。這款超級芯片集成了2個Grace CPU和4個Blackwell GPU，形成了一個強大的計算模塊。其HBM內存池容量高達1.3TB，相當于兩組GB200 Grace Blackwell超級芯片的組合，整體功耗也達到了5.4kW。
與上代GH200 NVL4系統(tǒng)相比，新的GB200 NVL4超級芯片在性能上有了顯著的提升。其模擬性能提升了2.2倍，AI訓練性能和AI推理性能分別提升了1.8倍。這一突破性的性能提升將為AI計算領域帶來更為廣泛的應用前景。
據(jù)英偉達透露，GB200 NVL4超級芯片預計將于2025年下半年正式上市。這一消息的發(fā)布無疑為AI計算領域注入了新的活力，也為用戶提供了更為豐富的選擇。
