【ITBEAR】9月25日消息，在2024百度云智大會上，百度智能云宣布了其百舸AI異構(gòu)計(jì)算平臺已成功升級至4.0版本，旨在滿足大模型全旅程的算力需求，為企業(yè)提供更為高效、穩(wěn)定的AI基礎(chǔ)設(shè)施。
據(jù)ITBEAR了解，百舸4.0版本特別針對“多芯混訓(xùn)”能力進(jìn)行了顯著升級，實(shí)現(xiàn)在萬卡規(guī)模集群上達(dá)到95%的多芯混合訓(xùn)練效能，處于行業(yè)領(lǐng)先地位。這一升級有效解決了算力資源短缺的問題，提升了訓(xùn)練效率。
在集群部署方面，升級后的百舸平臺展現(xiàn)出強(qiáng)大的工具層面優(yōu)化能力，將萬卡集群的運(yùn)行準(zhǔn)備時(shí)間從數(shù)周大幅縮短至1小時(shí)，極大提升了部署效率，縮短了業(yè)務(wù)上線周期。
針對大模型訓(xùn)練過程中頻繁出現(xiàn)的故障問題，百舸4.0版本全面升級了故障檢測手段和自動容錯機(jī)制，有效降低了故障發(fā)生頻次，大幅減少了集群故障處置時(shí)間，確保在萬卡集群上實(shí)現(xiàn)超過99.5%的有效訓(xùn)練時(shí)長。
在模型推理方面，隨著長文本推理逐漸成為主流需求，百舸4.0版本進(jìn)行了整體優(yōu)化，使得長文本推理效率提升了1倍以上，顯著提升了推理速度和降低了成本。
此次百度智能云的百舸4.0版本發(fā)布，無疑為企業(yè)提供了更為強(qiáng)大、高效的AI基礎(chǔ)設(shè)施，助力企業(yè)在AI領(lǐng)域?qū)崿F(xiàn)更快的發(fā)展。#百度智能云# #百舸AI異構(gòu)計(jì)算平臺# #算力升級# #模型推理優(yōu)化# #大模型訓(xùn)練#
