【ITBEAR科技資訊】7月28日消息，美光科技股份有限公司今日發(fā)布了一項(xiàng)重要消息。據(jù)悉，該公司已開始提供業(yè)界首款8層堆疊的24GB容量第二代HBM3內(nèi)存，其帶寬高達(dá)1.2TB/s，引腳速率超過(guò)9.2Gb/s，性能較市面上現(xiàn)有HBM3解決方案提升最高50%。這一新產(chǎn)品創(chuàng)下了關(guān)鍵型人工智能(AI)數(shù)據(jù)中心性能、容量和能效指標(biāo)的新紀(jì)錄，預(yù)計(jì)將在AI領(lǐng)域發(fā)揮巨大作用。
據(jù)了解，美光的第二代HBM3產(chǎn)品在與前一代相比，每瓦性能提高了2.5倍，為AI數(shù)據(jù)中心的極端功耗需求提供了有效的解決方案。為實(shí)現(xiàn)能效的顯著提升，美光在技術(shù)上進(jìn)行了革新，如將硅通孔(TSV)數(shù)量翻倍，增加金屬密度以降低熱阻，并設(shè)計(jì)了更為節(jié)能的數(shù)據(jù)通路。這些舉措使得美光第二代HBM3內(nèi)存成為滿足生成式AI領(lǐng)域多模態(tài)、數(shù)萬(wàn)億參數(shù)AI模型日益增長(zhǎng)需求的理想選擇。
據(jù)ITBEAR科技資訊了解，這款高性能內(nèi)存將為大型語(yǔ)言模型的訓(xùn)練時(shí)間縮短30%以上，從而有效降低總體擁有成本。除此之外，美光第二代HBM3內(nèi)存還將帶來(lái)每日查詢量的顯著增加，更有效地利用訓(xùn)練過(guò)的模型，進(jìn)一步提升AI數(shù)據(jù)中心的運(yùn)營(yíng)效率。在已經(jīng)部署的1000萬(wàn)個(gè)圖形處理器(GPU)用例中，單個(gè)HBM模塊可節(jié)約5瓦功耗，為客戶節(jié)省高達(dá)5.5億美元的運(yùn)營(yíng)費(fèi)用。
作為計(jì)算與網(wǎng)絡(luò)領(lǐng)域的領(lǐng)導(dǎo)廠商，美光與臺(tái)積電3DFabric聯(lián)盟展開合作，共同構(gòu)建半導(dǎo)體和系統(tǒng)創(chuàng)新的未來(lái)。在第二代HBM3產(chǎn)品開發(fā)過(guò)程中，美光與臺(tái)積電密切合作，為AI及高性能計(jì)算(HPC)設(shè)計(jì)應(yīng)用中的順利引入和集成計(jì)算系統(tǒng)奠定了基礎(chǔ)。目前，臺(tái)積電已收到美光第二代HBM3內(nèi)存樣片，正在進(jìn)行下一步的評(píng)估和測(cè)試，預(yù)計(jì)將助力客戶的下一代高性能計(jì)算應(yīng)用創(chuàng)新。
美光副總裁暨計(jì)算與網(wǎng)絡(luò)事業(yè)部計(jì)算產(chǎn)品事業(yè)群總經(jīng)理Praveen Vaidyanathan表示：“美光第二代HBM3解決方案旨在為客戶及業(yè)界提供卓越的人工智能和高性能計(jì)算解決方案。我們的一個(gè)重要考量標(biāo)準(zhǔn)是，該產(chǎn)品在客戶平臺(tái)上是否易于集成。美光HBM3具有完全可編程的內(nèi)存內(nèi)建自測(cè)試(MBIST)功能，可在完整規(guī)格的引腳速度下運(yùn)行，使美光能為客戶提供更強(qiáng)大的測(cè)試能力，實(shí)現(xiàn)高效協(xié)作，助力客戶縮短產(chǎn)品上市時(shí)間?！?/p>
英偉達(dá)超大規(guī)模和高性能計(jì)算副總裁Ian Buck也對(duì)美光的技術(shù)創(chuàng)新表示期待：“生成式AI的核心是加速計(jì)算，HBM的高帶寬至關(guān)重要，并帶來(lái)更出色的能效。我們與美光在眾多產(chǎn)品領(lǐng)域保持了長(zhǎng)期合作，非常期待與美光在第二代HBM3產(chǎn)品上繼續(xù)合作，加速AI創(chuàng)新?！?/p>
美光的第二代HBM3產(chǎn)品展現(xiàn)了公司在AI服務(wù)器領(lǐng)域的前沿技術(shù)創(chuàng)新。此前，美光已推出基于1α(1-alpha)節(jié)點(diǎn)、24Gb單塊DRAM裸片的96GB容量DDR5模組用于大容量服務(wù)器解決方案;如今推出基于1β節(jié)點(diǎn)、24Gb單塊DRAM裸片的24GB容量HBM3產(chǎn)品，并計(jì)劃于2024年上半年推出基于1β節(jié)點(diǎn)、32Gb單塊DRAM裸片的128GB容量DDR5模組。這些產(chǎn)品的推出將為AI領(lǐng)域帶來(lái)更多的可能性和機(jī)遇。
