【ITBEAR】科技巨頭英偉達(dá)近日公布了旗下Blackwell GPU在MLPerf v4.1 AI訓(xùn)練工作負(fù)載中的卓越性能。據(jù)WccfTech報道,這款新型GPU在訓(xùn)練Llama 2 70B模型時,展現(xiàn)出比前代Hopper GPU快2.2倍的速度。
英偉達(dá)此次公布的測試成績,涵蓋了多個重要的AI訓(xùn)練模型,包括用于自然語言處理的BERT和GPT-3 175B,以及用于圖像生成的Stable Diffusion等。這些基準(zhǔn)測試為評估AI加速器的性能提供了有力支持。
Hopper GPU自推出以來,經(jīng)過不斷優(yōu)化,其性能已得到顯著提升。在LLM預(yù)訓(xùn)練任務(wù)中,H100 GPU的性能比初次時測試提升了1.3倍,并在GPT-3 175B訓(xùn)練中實現(xiàn)了高達(dá)70%的性能增長。
然而,Blackwell GPU的亮相無疑將AI計算的性能推向了新的高度。該GPU旨在提高計算吞吐量,并配備了更大、更快的高帶寬內(nèi)存。這使得Blackwell能夠在保持高性能的同時,以更少的GPU數(shù)量完成GPT-3 175B等基準(zhǔn)測試。
測試結(jié)果顯示,僅需64張Blackwell GPU,便可達(dá)到256張Hopper GPU的測試性能,這一成就無疑彰顯了英偉達(dá)在AI計算領(lǐng)域的領(lǐng)先地位。
隨著AI技術(shù)的飛速發(fā)展,計算需求呈指數(shù)級增長。英偉達(dá)通過持續(xù)創(chuàng)新和優(yōu)化,不斷推動AI訓(xùn)練和推理能力的提升,為各行各業(yè)帶來更強(qiáng)大的智能支持。