【ITBEAR科技資訊】8月31日消息，谷歌云在今天召開的云Next大會上宣布，將于下個月推出A3虛擬機(jī)實例。這款新虛擬機(jī)實例的最大亮點是配備了英偉達(dá)H100 Tensor Core GPU，可以滿足生成式人工智能和大語言模型等需求。
據(jù)介紹，A3實例采用了第4代英特爾至強(qiáng)可擴(kuò)展處理器、2TB DDR5-4800內(nèi)存，以及8張英偉達(dá)H100“Hopper”GPU。通過NVlink 4.0和NVSwitch，該實例實現(xiàn)了3.6 TBps的對分帶寬。新的A3超級計算機(jī)專門用于訓(xùn)練和服務(wù)要求最苛刻的人工智能模型，并為生成人工智能和大型語言模型創(chuàng)新提供支持。據(jù)稱，該超級計算機(jī)可以提供26 exaFlops的人工智能性能。
此外，谷歌云還在發(fā)布會上介紹了全新的TPU v5e，這是迄今為止成本效益和可訪問性最高的云TPU。這些TPU或定制ASIC旨在加速人工智能和機(jī)器學(xué)習(xí)工作負(fù)載。根據(jù)SDxCentral的報道，TPU v5e相較于前代，每美元的訓(xùn)練性能提高了一倍，每美元的推理性能提高了2.5倍。
