【ITBEAR科技資訊】4月14日消息，騰訊云宣布發(fā)布面向大模型訓(xùn)練的新一代HCC(High-Performance Computing Cluster)高性能計(jì)算集群。該計(jì)算集群搭載NVIDIA H800 Tensor Core GPU，能夠提供高性能、高帶寬、低延遲的算力支撐。而針對(duì)大模型訓(xùn)練，計(jì)算集群有著訓(xùn)練框架AngelPTM，該框架對(duì)內(nèi)支持了騰訊混元大模型的訓(xùn)練，并在去年10的的萬(wàn)億參數(shù)大模型訓(xùn)練中，成功將時(shí)間縮短了80%。
據(jù)ITBEAR科技資訊了解，新的HCC計(jì)算集群能夠?qū)⒋竽Ｐ偷挠?xùn)練時(shí)間從上一代的11天壓縮至4天，有效節(jié)省了大量時(shí)間。該計(jì)算集群的整體性能比過(guò)去提升了3倍，堪稱(chēng)國(guó)內(nèi)目前性能最強(qiáng)的大模型計(jì)算集群。此外，騰訊用于AI推理的自研芯片紫霄已經(jīng)完成量產(chǎn)，它采用自研存算架構(gòu)與加速模塊，能夠提供高達(dá)3倍的計(jì)算加速性能，以及超過(guò)45%的整體成本節(jié)省。
騰訊云提供的大模型能力與工具箱，也能夠幫助企業(yè)根據(jù)具體需求和場(chǎng)景精調(diào)訓(xùn)練，從而進(jìn)一步提升效率，實(shí)現(xiàn)AI應(yīng)用的快速部署。而針對(duì)大模型訓(xùn)練，計(jì)算集群有著訓(xùn)練框架AngelPTM，該框架對(duì)內(nèi)支持了騰訊混元大模型的訓(xùn)練，并在去年10的的萬(wàn)億參數(shù)大模型訓(xùn)練中，成功將時(shí)間縮短了80%。該計(jì)算集群搭載NVIDIA H800 Tensor Core GPU，能夠提供高性能、高帶寬、低延遲的算力支撐。
