ITBear旗下自媒體矩陣:

百度 “跨廣域工業(yè)視覺大模型算網(wǎng)融合技術(shù)”重大成果發(fā)布,提升推理效率42%

   時間:2023-08-25 11:01:15 來源:互聯(lián)網(wǎng)編輯:茹茹 發(fā)表評論無障礙通道

8月24日,百度與江蘇未來網(wǎng)絡集團有限公司(簡稱“江蘇未來網(wǎng)絡集團”)、網(wǎng)絡通信與安全紫金山實驗室(簡稱“紫金山實驗室”) 、江蘇省未來網(wǎng)絡創(chuàng)新研究院(簡稱“未來網(wǎng)絡研究院”)簽署戰(zhàn)略合作框架協(xié)議。各方將圍繞大模型核心技術(shù)聯(lián)合攻關(guān),力爭在3-5年內(nèi)實現(xiàn)行業(yè)大模型技術(shù)創(chuàng)新能力江蘇領(lǐng)先水平,在全國具有示范意義。同時,多方合作還將共建江蘇省大模型產(chǎn)業(yè)賦能中心,加速大模型賦能江蘇企業(yè)步伐。

(百度與江蘇未來網(wǎng)絡集團、紫金山實驗室、未來網(wǎng)絡研究院簽署戰(zhàn)略合作)

在當日舉行的第七屆未來網(wǎng)絡發(fā)展大會上,百度智能云基于未來網(wǎng)絡打造的“跨廣域工業(yè)視覺大模型算網(wǎng)融合技術(shù)”作為重大成果正式對外發(fā)布。它基于百度自研芯片昆侖芯以及百度文心視覺大模型,將算力、網(wǎng)絡、大模型和應用場景融合,實現(xiàn)行業(yè)大模型跨廣域精調(diào)、推理服務,改變過去只能在工廠端就近部署算力和模型的方式,降低企業(yè)使用行業(yè)大模型的門檻。測試結(jié)果顯示,在相距超300公里的兩家鋼鐵工廠之間,該技術(shù)成果使行業(yè)大模型跨廣域推理效率提升42%。

(百度智能云“跨廣域工業(yè)視覺大模型算網(wǎng)融合技術(shù)”重大成果正式對外發(fā)布)

中國工程院院士、紫金山實驗室主任劉韻潔表示:"大模型時代,要抓住全球未來網(wǎng)絡發(fā)展的重大機遇,突破確定性網(wǎng)絡核心技術(shù),引領(lǐng)信息產(chǎn)業(yè)技術(shù)發(fā)展。此次與百度的合作將面向大模型、大數(shù)據(jù)發(fā)展需求,構(gòu)建覆蓋全國的確定性網(wǎng)絡,以及面向農(nóng)業(yè)、工業(yè)、能源、安全等行業(yè)的行業(yè)專網(wǎng),以大模型賦能千行百業(yè),促進實體經(jīng)濟發(fā)展。"

百度集團執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖表示:"大模型對算力、網(wǎng)絡、智算集群等智算基礎設施提出了全新要求。百度擁有芯片、框架、模型、應用等全棧人工智能技術(shù)優(yōu)勢,同時擁有開放的人工智能生態(tài)。百度智能云將攜手江蘇未來網(wǎng)絡集團,持續(xù)為算網(wǎng)融合相關(guān)戰(zhàn)略工程提供關(guān)鍵性支撐,通過提供智能計算云底座和大模型生產(chǎn)平臺,讓更多行業(yè)方便快捷、低門檻的用上大模型。"

(由右至左,百度集團執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖,中國聯(lián)通總經(jīng)理陳忠岳、中國工程院院士、紫金山實驗室主任劉韻潔、中國工程院院士鄔賀銓、中國科學院計算機網(wǎng)絡信息中心主任謝高崗,共話算力網(wǎng)絡與AI大模型發(fā)展策略)

大模型跨廣域推理效率提升42%,百度算網(wǎng)融合技術(shù)重大成果發(fā)布

當前,大模型發(fā)展已進入產(chǎn)業(yè)化應用階段。但工業(yè)場景復雜,產(chǎn)業(yè)鏈環(huán)節(jié)多、鏈條長,行業(yè)大模型的“精調(diào)和推理”需要高實時性和高安全性的算力網(wǎng)絡提供支持。這對網(wǎng)絡低時延、無損傳輸、網(wǎng)絡安全提出了更高的要求。傳統(tǒng)互聯(lián)網(wǎng),效率低,安全性缺乏。企業(yè)搭建專線方式成本高,企業(yè)難以承受。行業(yè)大模型落地工業(yè)需要一種新的技術(shù)解決方案來打破發(fā)展瓶頸。

百度智能云基于未來網(wǎng)絡打造的“跨廣域工業(yè)視覺大模型算網(wǎng)融合技術(shù)”作為重大成果,在第七屆未來網(wǎng)絡發(fā)展大會正式發(fā)布。該成果基于百度自研芯片昆侖芯以及百度文心視覺大模型,將算力、網(wǎng)絡、大模型和應用場景融合,通過智能調(diào)度網(wǎng)絡以及大模型的能力結(jié)合,實現(xiàn)行業(yè)大模型跨廣域精調(diào)、推理服務,提升模型精度和推理效率,改變過去只能在工廠端就近部署算力和模型的方式,提升模型泛化能力,降低企業(yè)使用行業(yè)大模型的門檻,大幅提升社會算力資源的利用率。

針對鋼鐵行業(yè)工業(yè)質(zhì)檢場景,一家鋼鐵工廠通過使用百度智能云的“算網(wǎng)融合技術(shù)”,在南京和上海工廠之間,進行跨廣域間的“精調(diào)和推理”測試。雖然兩家工廠相距超過300公里,但測試結(jié)果顯示,推理、訓練圖片數(shù)據(jù)丟包率為0,語料獲取效率提升83%,推理效率提升42%,云端算力相比本地化算力部署,模型精調(diào)訓練后精度提升10%。

通過測試論證,百度智能云打造的算網(wǎng)融合技術(shù)能夠同時滿足企業(yè)對工業(yè)視覺大模型推理端到端業(yè)務和精調(diào)訓練的性能需求,可以支撐后續(xù)視覺大模型在工業(yè)領(lǐng)域的場景落地和商業(yè)化。同時,基于自研芯片昆侖芯的大算力集群,大模型訓練速度相比本地化算力部署顯著提升。

過去六屆未來網(wǎng)絡發(fā)展大會發(fā)布了十余項全球領(lǐng)先的創(chuàng)新成果發(fā)布,其中相當一部分成果被廣泛應用于產(chǎn)業(yè)實踐和國家關(guān)鍵領(lǐng)域的建設當中。

3-5年內(nèi)攻克技術(shù)難關(guān),力爭大模型能力在江蘇排名第一

根據(jù)合作協(xié)議顯示,百度與江蘇未來網(wǎng)絡集團等三方的合作將主要聚焦大模型核心技術(shù)攻關(guān)和產(chǎn)業(yè)賦能兩個方面。

一方面,江蘇未來網(wǎng)絡集團提供智能算力底座及網(wǎng)絡資源,百度智能云提供模型及技術(shù)支撐,基于百度智能云千帆大模型平臺,各方攜手進行技術(shù)攻關(guān)。目標是建成全國首個自主可控的行業(yè)大模型平臺,實現(xiàn)跨廣域算網(wǎng)融合,確保低延遲、確定性通信,加速大模型數(shù)據(jù)共享、模型共享。同時保持開放生態(tài),未來可接入女媧大模型等江蘇本地優(yōu)質(zhì)大模型,持續(xù)培育本土能力。力爭在3-5年內(nèi)實現(xiàn)行業(yè)大模型技術(shù)創(chuàng)新能力江蘇領(lǐng)先水平。

另一方面,江蘇是中國工業(yè)第一大省,正在推動制造業(yè)高端化智能化綠色化發(fā)展。百度與江蘇未來網(wǎng)絡集團等三方的合作,將共建江蘇省大模型產(chǎn)業(yè)賦能中心,圍繞大模型產(chǎn)業(yè)運營、標桿示范場景打造、人工智能技術(shù)生態(tài)及人才培養(yǎng)等方面進行探索,降低江蘇企業(yè)使用行業(yè)大模型的門檻,加速人工智能產(chǎn)品和服務賦能企業(yè)步伐。

沈抖表示,大模型發(fā)展需要云智一體的智算基礎設施提供支持。百度在萬卡GPU集群、卡間通信、服務器間通信、數(shù)據(jù)中心通信方面都積累了豐富的經(jīng)驗,形成了較好的技術(shù)優(yōu)勢。百度智能云會將長期以來形成的大模型工程化能力沉淀下來,通過千帆大模型平臺開放給企業(yè)和機構(gòu),幫助大家用好大模型、做好大模型。

舉報 0 收藏 0 打賞 0評論 0
 
 
更多>同類資訊
全站最新
熱門內(nèi)容
網(wǎng)站首頁  |  關(guān)于我們  |  聯(lián)系方式  |  版權(quán)聲明  |  網(wǎng)站留言  |  RSS訂閱  |  違規(guī)舉報  |  開放轉(zhuǎn)載  |  滾動資訊  |  English Version