【ITBEAR】9月25日消息,百度在云智大會(huì)上隆重推出了其AI基礎(chǔ)設(shè)施產(chǎn)品的最新版本,包括百舸AI異構(gòu)計(jì)算平臺(tái)4.0和千帆大模型平臺(tái)3.0,并分享了一系列AI相關(guān)業(yè)務(wù)的最新進(jìn)展。其中,文心大模型的日均調(diào)用量已突破7億次,相較之前公布的6億數(shù)據(jù)實(shí)現(xiàn)了顯著提升。
百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖強(qiáng)調(diào),百舸4.0不僅具備萬卡集群的能力,更進(jìn)一步實(shí)現(xiàn)了10萬卡集群的高效部署和管理。這一成就與阿里云近期宣布的單網(wǎng)絡(luò)集群擴(kuò)展至10萬卡級(jí)別形成了有力競爭。
據(jù)ITBEAR了解,百度今年持續(xù)聚焦大模型的落地應(yīng)用,百度CEO李彥宏在內(nèi)部講話中指出,那些具備應(yīng)用場景并能持續(xù)迭代升級(jí)的大模型,與其他模型產(chǎn)品的差距將進(jìn)一步拉大。為此,百度攜手長安汽車、三星等多家知名企業(yè),共同展示了大模型在各行各業(yè)的廣泛應(yīng)用成果。
沈抖透露,過去一年中,百度客戶對(duì)于模型的需求急劇增長,所需的集群規(guī)模不斷擴(kuò)大,同時(shí)企業(yè)對(duì)于降低模型推理成本的期望也越來越高。他進(jìn)一步介紹,百舸4.0能夠?qū)⒓旱慕M建時(shí)間縮短至最快1小時(shí),這主要得益于將業(yè)界流行的訓(xùn)練工具和框架進(jìn)行內(nèi)置的優(yōu)化措施。
為了應(yīng)對(duì)大模型訓(xùn)練過程中的故障問題,百舸4.0對(duì)故障檢測手段和自動(dòng)容錯(cuò)機(jī)制進(jìn)行了全面升級(jí)。目前,萬卡集群上的有效訓(xùn)練時(shí)長已達(dá)到99.5%,這一數(shù)據(jù)表現(xiàn)優(yōu)于行業(yè)同類產(chǎn)品。此外,百舸4.0還將主流的長文本推理效率提升了一倍以上,并有效降低了推理成本。
在百度最新的財(cái)報(bào)電話會(huì)上,李彥宏透露,二季度百度智能云AI貢獻(xiàn)的收入占比已提升至9%,相較于上一季度的6.9%有了顯著增長。對(duì)于百度而言,模型落地的實(shí)際成果比單純的性能提升更具現(xiàn)實(shí)意義。
除了百舸平臺(tái)的升級(jí),百度還重點(diǎn)介紹了千帆3.0平臺(tái)。該平臺(tái)上的文心大模型日均調(diào)用量已超過7億次,累計(jì)幫助用戶精調(diào)了3萬個(gè)大模型,并開發(fā)出70多萬個(gè)企業(yè)級(jí)應(yīng)用。千帆3.0平臺(tái)可調(diào)用包括文心系列大模型在內(nèi)的近百個(gè)國內(nèi)外大模型,同時(shí)也支持調(diào)用語音、視覺等傳統(tǒng)小模型。
當(dāng)前,大模型落地的三大主要需求分別是應(yīng)用開發(fā)、模型推理和模型開發(fā)。在應(yīng)用開發(fā)層面,企業(yè)級(jí)RAG和Agent智能體是兩大常見的大模型落地場景。智能體能夠自主思考、任務(wù)拆解、方案規(guī)劃,并調(diào)用工具,全程自主完成,實(shí)現(xiàn)了過往需要多個(gè)APP才能完成的任務(wù)。
李彥宏認(rèn)為,智能體是大模型發(fā)展的下一個(gè)重要方向。百度在今年的Create大會(huì)上發(fā)布了多款與智能體相關(guān)的產(chǎn)品,并透露智能體在百度生態(tài)的分發(fā)量大幅增長,7月日均分發(fā)次數(shù)超過800萬次,為5月數(shù)據(jù)的兩倍。
此外,百度旗下數(shù)字人平臺(tái)和智能客服產(chǎn)品也取得了最新進(jìn)展。曦靈數(shù)字人平臺(tái)4.0支持快速生成不同妝造和行業(yè)特色的3D數(shù)字人形象和視頻,并將3D超寫實(shí)數(shù)字人的價(jià)格大幅降低。智能客服產(chǎn)品“客悅”則在用戶意圖理解、多模態(tài)信息交流等方面進(jìn)行了優(yōu)化,提升了處理復(fù)雜問題的能力。
關(guān)鍵詞:#百度# #大模型# #AI基礎(chǔ)設(shè)施# #智能體# #文心大模型#