【ITBEAR】9月25日消息，在2024百度云智大會上，百度智能云宣布了其百舸AI異構計算平臺已成功升級至4.0版本，旨在滿足大模型全旅程的算力需求，為企業(yè)提供更為高效、穩(wěn)定的AI基礎設施。
據(jù)ITBEAR了解，百舸4.0版本特別針對“多芯混訓”能力進行了顯著升級，實現(xiàn)在萬卡規(guī)模集群上達到95%的多芯混合訓練效能，處于行業(yè)領先地位。這一升級有效解決了算力資源短缺的問題，提升了訓練效率。
在集群部署方面，升級后的百舸平臺展現(xiàn)出強大的工具層面優(yōu)化能力，將萬卡集群的運行準備時間從數(shù)周大幅縮短至1小時，極大提升了部署效率，縮短了業(yè)務上線周期。
針對大模型訓練過程中頻繁出現(xiàn)的故障問題，百舸4.0版本全面升級了故障檢測手段和自動容錯機制，有效降低了故障發(fā)生頻次，大幅減少了集群故障處置時間，確保在萬卡集群上實現(xiàn)超過99.5%的有效訓練時長。
在模型推理方面，隨著長文本推理逐漸成為主流需求，百舸4.0版本進行了整體優(yōu)化，使得長文本推理效率提升了1倍以上，顯著提升了推理速度和降低了成本。
此次百度智能云的百舸4.0版本發(fā)布，無疑為企業(yè)提供了更為強大、高效的AI基礎設施，助力企業(yè)在AI領域實現(xiàn)更快的發(fā)展。#百度智能云# #百舸AI異構計算平臺# #算力升級# #模型推理優(yōu)化# #大模型訓練#
