IBM近期公布了一項(xiàng)革命性的光學(xué)技術(shù)創(chuàng)新，這項(xiàng)技術(shù)有望重塑AI模型的訓(xùn)練方式，實(shí)現(xiàn)前所未有的速度提升與能源節(jié)約。據(jù)該公司透露，這項(xiàng)技術(shù)的應(yīng)用將使數(shù)據(jù)中心的AI模型訓(xùn)練效率提升至光速級別，同時大幅度削減能源消耗。
具體來說，IBM指出，盡管現(xiàn)代數(shù)據(jù)中心通過光纖電纜與外部網(wǎng)絡(luò)連接，但其內(nèi)部仍大量使用銅線來連接GPU加速器。這些GPU在等待其他設(shè)備傳來的數(shù)據(jù)時，常常處于空閑狀態(tài)，不僅消耗大量能源，還增加了運(yùn)營成本。為了解決這個問題，IBM引入了共封裝光學(xué)技術(shù)（CPO），旨在徹底改變數(shù)據(jù)中心的內(nèi)部通信方式。
IBM高級副總裁兼研究總監(jiān)Dario Gil表示，隨著生成式AI對能源和處理能力的需求日益增長，數(shù)據(jù)中心必須不斷進(jìn)化以適應(yīng)這一趨勢。CPO技術(shù)的引入，將使得數(shù)據(jù)中心內(nèi)部的芯片能夠以類似于光纖電纜傳輸數(shù)據(jù)的方式進(jìn)行通信，從而開啟一個全新的、更快速、更可持續(xù)的通信時代。這一突破將使得數(shù)據(jù)中心能夠更好地應(yīng)對未來的AI工作負(fù)載。
IBM在一篇技術(shù)論文中詳細(xì)介紹了其CPO原型的工作原理。通過大幅度提升數(shù)據(jù)中心的帶寬，這項(xiàng)技術(shù)可以顯著減少GPU的閑置時間，從而加速AI處理過程。具體來說，大型語言模型（LLM）的訓(xùn)練時間有望從傳統(tǒng)的三個月縮短至三周。由于能源效率的提高，訓(xùn)練LLM所消耗的能源將大幅減少，相關(guān)成本也將隨之下降。
IBM的這一創(chuàng)新不僅有望推動AI技術(shù)的快速發(fā)展，還將對環(huán)境保護(hù)產(chǎn)生積極影響。據(jù)該公司估算，如果將這項(xiàng)技術(shù)應(yīng)用于數(shù)據(jù)中心，訓(xùn)練一個AI模型所節(jié)省的能源將相當(dāng)于5000個美國家庭一年的能源消耗。這一數(shù)據(jù)充分展示了CPO技術(shù)在節(jié)能減排方面的巨大潛力。
