【ITBEAR】摩爾線程近日宣布,其針對PyTorch深度學(xué)習(xí)框架的MUSA插件——Torch-MUSA,已推出新版本v1.3.0。此次更新全面兼容PyTorch 2.2.0,不僅提升了模型在MUSA架構(gòu)上的性能與覆蓋度,更支持模型輕松遷移到國產(chǎn)全功能GPU上運行。
Torch-MUSA插件的推出,為PyTorch用戶提供了便捷的MUSA后端加速支持。用戶只需簡單指定設(shè)備為"musa",便可在MUSA架構(gòu)上高效運行深度學(xué)習(xí)模型,充分發(fā)揮國產(chǎn)GPU的計算潛能。
據(jù)悉,PyTorch作為廣泛應(yīng)用于自然語言處理、計算機視覺等領(lǐng)域的深度學(xué)習(xí)框架,其模型運行效率一直備受關(guān)注。而摩爾線程通過不斷優(yōu)化Torch-MUSA,旨在為用戶提供更加流暢、高效的深度學(xué)習(xí)體驗。
新版本v1.3.0的發(fā)布,標(biāo)志著Torch-MUSA在兼容性和性能上又邁出了重要一步。未來,摩爾線程將繼續(xù)跟進PyTorch的版本更新,為用戶提供更多先進功能和更佳性能支持。
PyTorch旗下架構(gòu)優(yōu)化庫torchao的發(fā)布,也為深度學(xué)習(xí)模型的量化和稀疏性優(yōu)化提供了有力工具。這一優(yōu)化庫能夠在保持性能的同時,有效降低模型計算成本和RAM用量,與Torch-MUSA的更新相得益彰。