閃迪公司即將在今年一季度完成從西部數(shù)據(jù)的拆分,并踏上獨立上市的新征程。近日,在面向投資者的活動中,閃迪揭開了其前沿技術(shù)——高帶寬閃存(HBF)的神秘面紗,這一技術(shù)有望重塑AI推理GPU存儲生態(tài)。
HBF作為閃迪的帶寬優(yōu)化NAND產(chǎn)品,其設(shè)計理念深受HBM啟發(fā),采用了類似的架構(gòu)特點,如大量的I/O引腳和多層堆疊,并共享了HBM的電氣接口,實現(xiàn)了帶寬的匹配。然而,由于存儲介質(zhì)從DRAM轉(zhuǎn)變?yōu)镹AND,HBF對協(xié)議進行了相應(yīng)的調(diào)整,因此與HBM并不完全兼容。
在HBF的內(nèi)部結(jié)構(gòu)中,多層核心裸晶通過微凸塊和硅通孔技術(shù)緊密堆疊,底部則設(shè)置了負責(zé)與計算芯片通信的邏輯裸晶。閃迪自豪地宣布,其HBF技術(shù)能夠?qū)崿F(xiàn)極低的裸晶翹曲,目前最高已實現(xiàn)16層堆疊,單個堆棧容量驚人地達到了512GB。
這一突破性的技術(shù)意味著,在2.5D集成下,僅8個HBF堆棧的單個AI GPU就能擁有4096GB(即4TB)的存儲空間,這一容量是純HBM方案的20倍以上。如此龐大的存儲空間,足以滿足參數(shù)約1.8T的前沿大型語言模型(LLM)的推理運行需求。
更令人矚目的是,由于HBF與HBM在技術(shù)路線和性能參數(shù)上的相似性,AI GPU可以靈活配置這兩種存儲,形成如3072GB HBF + 48GB HBM等高度自定義的組合,為用戶提供前所未有的存儲靈活性。
除了AI推理GPU領(lǐng)域,HBF技術(shù)同樣有望在邊緣AI領(lǐng)域大放異彩。單顆HBF就能容納完整的64B模型,這一特性無疑將極大地推動邊緣AI的發(fā)展。
閃迪的HBF高帶寬閃存開發(fā)并非孤軍奮戰(zhàn),它得到了眾多主要AI企業(yè)的鼎力支持。閃迪計劃推動構(gòu)建HBF開放標(biāo)準(zhǔn)生態(tài)系統(tǒng),以實現(xiàn)無縫的系統(tǒng)集成,進一步加速技術(shù)的普及和應(yīng)用。
對于未來的HBF產(chǎn)品,閃迪早已有了明確的規(guī)劃。他們致力于在第三代產(chǎn)品中實現(xiàn)2倍容量的提升、2倍讀取帶寬的增強,以及36%功耗的降低,持續(xù)引領(lǐng)存儲技術(shù)的革新。