【ITBEAR】AMD公司在“Advancing AI”大會上宣布推出全新的Instinct MI325X加速卡，該加速卡基于CDNA 3架構(gòu)，相較于舊款MI300X進行了多項升級。為了應(yīng)對日益增長的AI模型計算需求，MI325X特別強化了HBM3E內(nèi)存和計算能力。
MI325X加速卡配備了高達256 GB的HBM3E內(nèi)存，相較于MI300的192GB提升了1.8倍，同時內(nèi)存帶寬也達到了6 TB/s。在計算能力方面，MI325X在FP16下提供1.3 PetaFLOPS，在FP8訓(xùn)練和推理下提供2.6 PetaFLOPS，較MI300提升1.3倍。
加速器的核心在于ROCm軟件堆棧，AMD計劃將ROCm引入每一款GPU，并與開源社區(qū)合作，整合PyTorch、Triton、ONNX等框架的功能。
AMD還透露了對于未來的規(guī)劃，預(yù)計將在2025年下半年推出基于TSMC 3納米工藝的CDNA 4 Instinct MI355X加速器，配備288 GB的HBM3E內(nèi)存。
