【ITBEAR科技資訊】8月8日消息，微軟攜手英偉達(dá)在今年3月宣布推出Azure ND H100 v5 VM虛擬機(jī)預(yù)覽版。經(jīng)過數(shù)月的測(cè)試和調(diào)試，今天，該虛擬機(jī)正式面向企業(yè)推出，旨在幫助企業(yè)更高效地處理生成式AI任務(wù)。
Azure ND H100 v5 VM是Azure迄今為止功能更為強(qiáng)大且高度可伸縮的AI虛擬機(jī)系列之一。該虛擬機(jī)支持的按需配置從8個(gè)到上千個(gè)NVIDIA H100 GPU，并通過Quantum-2 InfiniBand網(wǎng)絡(luò)進(jìn)行互連，大幅提升了AI模型的性能。相較于上一代ND A100 v4 VM，新推出的虛擬機(jī)引入了一系列創(chuàng)新技術(shù)：每個(gè)虛擬機(jī)配備8塊NVIDIA H100 Tensor Core GPU，利用下一代NV Switch和NV link 4.0實(shí)現(xiàn)高速互連;每個(gè)GPU搭載400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand，在無阻塞胖樹網(wǎng)絡(luò)中，每個(gè)VM可達(dá)3.2Tb/s的性能;此外，每個(gè)VM內(nèi)的8塊本地GPU之間通過3.8Tb/s的帶寬進(jìn)行互聯(lián)，采用NV Switch和NV link 4.0技術(shù);最后，新虛擬機(jī)還配備了第四代英特爾至強(qiáng)可擴(kuò)展處理器，以及每個(gè)GPU帶寬為64Gb/s的PCIE第5代主機(jī)到GPU互連和16信道的4800 MHz DDR5內(nèi)存。
據(jù)ITBEAR科技資訊了解，新的虛擬機(jī)采用了NVIDIA的Tensor Core H100 GPU和NVIDIA Quantum-2 InfiniBand網(wǎng)絡(luò)。目前，該虛擬機(jī)預(yù)覽版僅限美國東部和西部Azure企業(yè)訪問。微軟表示，公司正在努力在明年為其虛擬機(jī)添加數(shù)十萬塊新的GPU，以滿足不斷增長(zhǎng)的需求。
除了Azure ND H100 v5 VM虛擬機(jī)，微軟還宣布擴(kuò)展其Azure OpenAI服務(wù)，將在加拿大東部、美國東部2、日本東部和英國南部地區(qū)上線。Azure OpenAI服務(wù)的客戶數(shù)量已超過11000人，每天平均吸引100名新客戶。這一顯著增長(zhǎng)證明了微軟為滿足企業(yè)獨(dú)特需求而提供的人工智能服務(wù)的價(jià)值和可擴(kuò)展性。
微軟補(bǔ)充稱，ChatGPT AI平臺(tái)最強(qiáng)大的版本GPT-4也將適用于新的Azure OpenAI服務(wù)區(qū)域，這進(jìn)一步鞏固了微軟在人工智能領(lǐng)域的領(lǐng)先地位，并為全球企業(yè)提供更多高效的AI解決方案。
