9 月 21 日消息，據(jù)英偉達(dá)官方消息，英偉達(dá)于今日宣布 NVIDIA H100 Tensor Core GPU 全面投產(chǎn)，NVIDIA 全球技術(shù)合作伙伴計(jì)劃于 10 月推出首批基于開創(chuàng)性 NVIDIA Hopper 架構(gòu)的產(chǎn)品和服務(wù)。
IT之家了解到，H100 于 2022 年 4 月發(fā)布，由 800 億個(gè)晶體管組成，并采用了眾多開創(chuàng)性的技術(shù)，包括強(qiáng)大的全新 Transformer 引擎和 NVIDIA NVlink 互連技術(shù)，以加速最大規(guī)模的 AI 模型，如高級(jí)推薦系統(tǒng)和大型語(yǔ)言模型，并推動(dòng)對(duì)話式 AI 和藥物發(fā)現(xiàn)等領(lǐng)域的創(chuàng)新。
英偉達(dá)表示，H100 使企業(yè)能夠削減 AI 的部署成本，相較于上一代，在提供相同 AI 性能的情況下，可將能效提高 3.5 倍，總體擁有成本減少至 1/3，所使用的服務(wù)器節(jié)點(diǎn)數(shù)也減少至 1/5。
NVIDIA DGX H100 系統(tǒng)現(xiàn)在也已開始接受客戶預(yù)定。該系統(tǒng)包含 8 個(gè) H100 GPU，F(xiàn)P8 精度的峰值性能達(dá)到 32 PFlops。每個(gè) DGX 系統(tǒng)都包含 NVIDIA base Command 和 NVIDIA AI Enterprise 軟件，可實(shí)現(xiàn)從單一節(jié)點(diǎn)到 NVIDIA DGX SuperPOD 的集群部署，為大型語(yǔ)言模型和其他大規(guī)模工作負(fù)載的高級(jí) AI 開發(fā)工作提供支持。
全球領(lǐng)先的計(jì)算機(jī)制造商所提供的搭載 H100 的系統(tǒng)預(yù)計(jì)將在未來(lái)幾周內(nèi)發(fā)貨，到今年年底將有超過(guò) 50 款服務(wù)器型號(hào)面市，2023 年上半年還將有數(shù)十款型號(hào)面市。已在構(gòu)建系統(tǒng)的合作伙伴包括源訊(Atos)、思科、戴爾科技、富士通、技嘉科技、慧與、聯(lián)想和超微。
