ITBear旗下自媒體矩陣:

AI組網(wǎng)新趨勢(shì):Scale up與Scale out如何引領(lǐng)未來(lái)?探秘組網(wǎng)技術(shù)的顛覆性變革!

   時(shí)間:2024-09-11 20:04:13 來(lái)源:ITBEAR作者:江紫萱編輯:瑞雪 發(fā)表評(píng)論無(wú)障礙通道

【ITBEAR】9月11日消息,隨著人工智能技術(shù)的飛速發(fā)展,AI組網(wǎng)結(jié)構(gòu)的變化趨勢(shì)日益成為業(yè)界關(guān)注的焦點(diǎn)。近日,興業(yè)證券發(fā)布了一份題為《AI深度洞察系列報(bào)告(三):Scale up與Scale out組網(wǎng)變化趨勢(shì)如何看?》的研究報(bào)告,深入探討了這一問(wèn)題及其對(duì)算力產(chǎn)業(yè)鏈投資機(jī)會(huì)的影響。

報(bào)告指出,在AI大模型訓(xùn)練領(lǐng)域,分布式并行訓(xùn)練架構(gòu)已成為主流,其中張量并行對(duì)通信的要求尤為突出。隨著模型規(guī)模的不斷擴(kuò)大,服務(wù)器內(nèi)帶寬需求也在迅猛增長(zhǎng)。為滿(mǎn)足這一需求,建立更大帶寬的超節(jié)點(diǎn)已成為行業(yè)發(fā)展的必然趨勢(shì)。

據(jù)ITBEAR了解,超節(jié)點(diǎn)的規(guī)模設(shè)計(jì)正由GPU廠(chǎng)商和云服務(wù)商共同推動(dòng)。以英偉達(dá)為例,其超節(jié)點(diǎn)規(guī)模在不斷升級(jí),以適應(yīng)日益增長(zhǎng)的算力需求。同時(shí),谷歌也在通過(guò)擴(kuò)大超節(jié)點(diǎn)Pod規(guī)模來(lái)降低數(shù)據(jù)中心網(wǎng)絡(luò)(DCN)的帶寬要求。此外,UALink聯(lián)盟也在積極推動(dòng)超節(jié)點(diǎn)規(guī)模的進(jìn)一步提升。

在Scale up方面,除了帶寬提升外,互聯(lián)密度的增加也是一個(gè)重要趨勢(shì)。英偉達(dá)等廠(chǎng)商正在采用先進(jìn)的互聯(lián)技術(shù),如NVL GB200方案和NVLINK協(xié)議,以提升機(jī)柜內(nèi)部的互聯(lián)帶寬。目前,銅互聯(lián)方式仍占主導(dǎo)地位,但長(zhǎng)期來(lái)看,光互聯(lián)技術(shù)有望取代銅互聯(lián),成為未來(lái)的主流互聯(lián)方式。

另一方面,Scale out的發(fā)展則主要體現(xiàn)在集群規(guī)模的擴(kuò)大上。受Scaling Laws法則的驅(qū)動(dòng),AI大模型的硬件部署正朝著更大集群的方向發(fā)展。目前,AI集群規(guī)模已進(jìn)入10萬(wàn)卡階段,以太網(wǎng)組網(wǎng)在AI集群中的應(yīng)用也正在加速落地。

報(bào)告還提到,字節(jié)跳動(dòng)和meta等科技巨頭已經(jīng)采用以太網(wǎng)技術(shù)來(lái)搭建AI集群。同時(shí),博通等廠(chǎng)商也在不斷升級(jí)其以太網(wǎng)交換芯片,以滿(mǎn)足不斷增長(zhǎng)的市場(chǎng)需求。英偉達(dá)也強(qiáng)調(diào)了以太網(wǎng)方案在AI集群部署中的重要性。

此外,隨著AI集群規(guī)模的擴(kuò)大,交換機(jī)和光模塊等配套設(shè)施的需求也在不斷增加。Arista等公司針對(duì)AI需求提出了不同的交換機(jī)互聯(lián)方案,通過(guò)提升交換機(jī)端口數(shù)來(lái)推動(dòng)Scale out規(guī)模的進(jìn)一步提升。同時(shí),光模塊的總需求也與算力需求成正比,保持向上趨勢(shì)。硅光技術(shù)有望在未來(lái)逐步從可插拔硅光形式過(guò)渡到CPO形式,并在1.6T光模塊階段實(shí)現(xiàn)滲透率的提升。

綜上所述,AI組網(wǎng)正朝著更大規(guī)模集群的方向發(fā)展,Scale up和Scale out兩大趨勢(shì)共同推動(dòng)了AI算力產(chǎn)業(yè)鏈的不斷進(jìn)步。隨著技術(shù)的不斷創(chuàng)新和市場(chǎng)需求的持續(xù)增長(zhǎng),相關(guān)產(chǎn)業(yè)將迎來(lái)更多的投資機(jī)會(huì)和發(fā)展空間。

#AI組網(wǎng)# #Scale up# #Scale out# #算力產(chǎn)業(yè)鏈# #投資機(jī)會(huì)#

舉報(bào) 0 收藏 0 打賞 0評(píng)論 0
 
 
更多>同類(lèi)資訊
全站最新
熱門(mén)內(nèi)容
網(wǎng)站首頁(yè)  |  關(guān)于我們  |  聯(lián)系方式  |  版權(quán)聲明  |  網(wǎng)站留言  |  RSS訂閱  |  違規(guī)舉報(bào)  |  開(kāi)放轉(zhuǎn)載  |  滾動(dòng)資訊  |  English Version