【ITBEAR】9月25日消息，今日，百度云智大會盛大召開，會上，百度智能云宣布了一個(gè)重要消息：其自主研發(fā)的百舸AI異構(gòu)計(jì)算平臺已成功升級至4.0版本，標(biāo)志著百度在AI技術(shù)領(lǐng)域邁出了新的一步。
據(jù)ITBEAR了解，此次百舸4.0版本的重點(diǎn)升級在于“多芯混訓(xùn)”能力，實(shí)現(xiàn)了在萬卡規(guī)模集群上高達(dá)95%的多芯混合訓(xùn)練效能，極大提升了AI模型的訓(xùn)練效率。此外，在集群部署環(huán)節(jié)，升級后的百舸平臺展現(xiàn)了驚人的速度，能夠?qū)⑷f卡集群的運(yùn)行準(zhǔn)備時(shí)間從數(shù)周縮短至僅需1小時(shí)，極大地節(jié)省了時(shí)間和人力成本。
針對大模型訓(xùn)練過程中常見的故障問題，百舸4.0也進(jìn)行了全面的優(yōu)化。通過升級故障檢測手段和自動容錯(cuò)機(jī)制，百舸4.0有效降低了故障發(fā)生的頻次，大幅減少了集群故障的處理時(shí)間，確保了在萬卡集群上實(shí)現(xiàn)超過99.5%的有效訓(xùn)練時(shí)長。
在模型推理方面，百舸4.0也進(jìn)行了整體的優(yōu)化，不僅提升了推理速度，還降低了成本。特別是長文本推理效率，相較于之前版本，提升了1倍以上，為用戶帶來了更加高效、經(jīng)濟(jì)的AI應(yīng)用體驗(yàn)。
此次百舸AI異構(gòu)計(jì)算平臺的升級，無疑將進(jìn)一步推動百度在AI領(lǐng)域的發(fā)展，為行業(yè)帶來更多創(chuàng)新和應(yīng)用的可能性。
關(guān)鍵詞：#百度智能云#、#百舸AI異構(gòu)計(jì)算平臺#、#多芯混訓(xùn)#、#模型推理#、#AI技術(shù)#
