ITBear旗下自媒體矩陣:

英偉達(dá)H100 GPU交貨周期大減,AI芯片市場(chǎng)格局或迎新變化

   時(shí)間:2024-02-27 14:42:53 來源:ITBEAR編輯:瑞雪 發(fā)表評(píng)論無障礙通道

【ITBEAR科技資訊】2月27日消息,近日有報(bào)道稱,英偉達(dá)針對(duì)人工智能(AI)和高性能計(jì)算(HPC)推出的H100 GPU交貨周期出現(xiàn)顯著縮短,由此前的8-11個(gè)月銳減至僅3-4個(gè)月。這一變化導(dǎo)致部分囤積該芯片的公司開始尋求出售其過剩的H100 80GB處理器,原因在于如今從亞馬遜云服務(wù)、谷歌云及微軟Azure等大型云服務(wù)提供商處租用芯片已變得更為便捷。

據(jù)ITBEAR科技資訊了解,The Information的一份報(bào)告指出,鑒于H100 GPU稀缺性的降低以及維護(hù)未使用庫存所帶來的高昂成本,部分公司開始轉(zhuǎn)售其手中的H100 GPU或減少相關(guān)訂單。這與去年眾多企業(yè)爭(zhēng)相搶購(gòu)英偉達(dá)Hopper GPU的情況形成了鮮明對(duì)比。盡管芯片的可用性有所提升且交貨周期大幅縮短,但報(bào)告仍指出,AI芯片的需求依然旺盛,尤其是對(duì)于需要訓(xùn)練大型語言模型(LLM)的公司,如OpenAI等。

云服務(wù)提供商(CSP)如亞馬遜AWS等提供的按需租用H100 GPU服務(wù),在一定程度上緩解了需求壓力,縮短了用戶的等待時(shí)間。然而,由于訓(xùn)練大型語言模型需要大規(guī)模的GPU集群,這類公司仍面臨著供應(yīng)瓶頸的挑戰(zhàn),有時(shí)甚至需要等待數(shù)月才能獲得所需的處理能力。因此,盡管交貨周期縮短,但英偉達(dá)H100等處理器的市場(chǎng)價(jià)格并未出現(xiàn)明顯下降,公司依然能夠保持較高的利潤(rùn)率。

隨著芯片供應(yīng)瓶頸的逐步緩解,買家的行為也在發(fā)生變化。企業(yè)開始更加注重價(jià)格和采購(gòu)/租賃的合理性,傾向于選擇規(guī)模更小的GPU集群,并更加關(guān)注其業(yè)務(wù)的經(jīng)濟(jì)可行性。此外,隨著替代方案(如AMD或AWS的處理器)在性能和軟件支持方面的不斷提升,以及企業(yè)在AI處理器支出方面的日益謹(jǐn)慎,AI領(lǐng)域有望迎來一個(gè)更加平衡的市場(chǎng)格局。

標(biāo)簽: 英偉達(dá)
舉報(bào) 0 收藏 0 打賞 0評(píng)論 0
 
 
更多>同類資訊
全站最新
熱門內(nèi)容
網(wǎng)站首頁  |  關(guān)于我們  |  聯(lián)系方式  |  版權(quán)聲明  |  網(wǎng)站留言  |  RSS訂閱  |  違規(guī)舉報(bào)  |  開放轉(zhuǎn)載  |  滾動(dòng)資訊  |  English Version