【ITBEAR】9月25日消息，百度在云智大會上隆重推出了其AI基礎設施產(chǎn)品的最新版本，包括百舸AI異構計算平臺4.0和千帆大模型平臺3.0，并分享了一系列AI相關業(yè)務的最新進展。其中，文心大模型的日均調用量已突破7億次，相較之前公布的6億數(shù)據(jù)實現(xiàn)了顯著提升。
百度集團執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖強調，百舸4.0不僅具備萬卡集群的能力，更進一步實現(xiàn)了10萬卡集群的高效部署和管理。這一成就與阿里云近期宣布的單網(wǎng)絡集群擴展至10萬卡級別形成了有力競爭。
據(jù)ITBEAR了解，百度今年持續(xù)聚焦大模型的落地應用，百度CEO李彥宏在內部講話中指出，那些具備應用場景并能持續(xù)迭代升級的大模型，與其他模型產(chǎn)品的差距將進一步拉大。為此，百度攜手長安汽車、三星等多家知名企業(yè)，共同展示了大模型在各行各業(yè)的廣泛應用成果。
沈抖透露，過去一年中，百度客戶對于模型的需求急劇增長，所需的集群規(guī)模不斷擴大，同時企業(yè)對于降低模型推理成本的期望也越來越高。他進一步介紹，百舸4.0能夠將集群的組建時間縮短至最快1小時，這主要得益于將業(yè)界流行的訓練工具和框架進行內置的優(yōu)化措施。
為了應對大模型訓練過程中的故障問題，百舸4.0對故障檢測手段和自動容錯機制進行了全面升級。目前，萬卡集群上的有效訓練時長已達到99.5%，這一數(shù)據(jù)表現(xiàn)優(yōu)于行業(yè)同類產(chǎn)品。此外，百舸4.0還將主流的長文本推理效率提升了一倍以上，并有效降低了推理成本。
在百度最新的財報電話會上，李彥宏透露，二季度百度智能云AI貢獻的收入占比已提升至9%，相較于上一季度的6.9%有了顯著增長。對于百度而言，模型落地的實際成果比單純的性能提升更具現(xiàn)實意義。
除了百舸平臺的升級，百度還重點介紹了千帆3.0平臺。該平臺上的文心大模型日均調用量已超過7億次，累計幫助用戶精調了3萬個大模型，并開發(fā)出70多萬個企業(yè)級應用。千帆3.0平臺可調用包括文心系列大模型在內的近百個國內外大模型，同時也支持調用語音、視覺等傳統(tǒng)小模型。
當前，大模型落地的三大主要需求分別是應用開發(fā)、模型推理和模型開發(fā)。在應用開發(fā)層面，企業(yè)級RAG和Agent智能體是兩大常見的大模型落地場景。智能體能夠自主思考、任務拆解、方案規(guī)劃，并調用工具，全程自主完成，實現(xiàn)了過往需要多個APP才能完成的任務。
李彥宏認為，智能體是大模型發(fā)展的下一個重要方向。百度在今年的Create大會上發(fā)布了多款與智能體相關的產(chǎn)品，并透露智能體在百度生態(tài)的分發(fā)量大幅增長，7月日均分發(fā)次數(shù)超過800萬次，為5月數(shù)據(jù)的兩倍。
此外，百度旗下數(shù)字人平臺和智能客服產(chǎn)品也取得了最新進展。曦靈數(shù)字人平臺4.0支持快速生成不同妝造和行業(yè)特色的3D數(shù)字人形象和視頻，并將3D超寫實數(shù)字人的價格大幅降低。智能客服產(chǎn)品“客悅”則在用戶意圖理解、多模態(tài)信息交流等方面進行了優(yōu)化，提升了處理復雜問題的能力。
關鍵詞：#百度# #大模型# #AI基礎設施# #智能體# #文心大模型#
