IBM近期在光學技術領域取得了突破性進展，這一創(chuàng)新有望極大提升數據中心在訓練和運行生成式AI模型方面的效率。據悉，該公司已經成功推出了新一代的光電共封裝（CPO）工藝。
這項新技術通過引入光學連接，實現了數據中心內部數據以光速傳輸的壯舉，有效地補充并優(yōu)化了現有的短距離光纜系統(tǒng)。研究人員指出，光電共封裝技術將徹底改變計算行業(yè)在芯片、電路板以及服務器之間的高帶寬數據傳輸方式。
光電共封裝技術的引入，意味著數據中心將體驗到前所未有的性能提升。它不僅能夠最大限度地減少GPU的停機時間，還能顯著加快AI工作的整體速度。具體而言，這一創(chuàng)新技術帶來了三大顯著優(yōu)勢。
第一大優(yōu)勢在于成本效益。與傳統(tǒng)的中距離電氣互連裝置相比，光電共封裝技術的能耗降低了五倍以上。數據中心互連電纜的長度也從傳統(tǒng)的1米大幅提升至數百米，從而進一步增強了數據中心的靈活性和擴展性。這意味著，大規(guī)模應用生成式AI的成本將大大降低。
第二大優(yōu)勢體現在AI模型的訓練速度上。與傳統(tǒng)的電線相比，使用光電共封裝技術訓練大型語言模型的速度幾乎提升了五倍。這意味著，原本需要長達三個月才能訓練完成的標準大語言模型，現在僅需三周即可完成。對于更大規(guī)模的模型和更多的GPU，性能提升將更為顯著。
第三大優(yōu)勢則是能效的提升。據估算，使用光電共封裝技術每訓練一個AI模型所節(jié)省的電量，相當于5000個美國家庭一年的耗電量總和。這一數據充分展示了該技術在節(jié)能減排方面的巨大潛力，對于推動綠色數據中心的發(fā)展具有重要意義。
光電共封裝技術的推出，不僅標志著IBM在光學技術領域取得了重大突破，也為計算行業(yè)帶來了全新的發(fā)展方向。這一創(chuàng)新技術不僅將提升AI模型的訓練和運行速度，還將顯著降低能耗，提升能效，為數據中心的未來發(fā)展注入了新的活力。
光電共封裝技術還有望推動AI技術的廣泛應用，降低生成式AI的使用門檻，使得更多的企業(yè)和機構能夠享受到AI技術帶來的便利和效益。
總之，IBM的光電共封裝技術無疑為計算行業(yè)帶來了革命性的變化，將引領數據中心向更高效、更環(huán)保的方向發(fā)展。
