ITBear旗下自媒體矩陣:

澎峰科技攜手海光DCU,PerfXLM+推理框架賦能DeepSeek模型新飛躍

   時間:2025-02-07 19:59:26 來源:ITBEAR編輯:快訊團隊 發(fā)表評論無障礙通道

近日,澎峰科技對外公布了一項重要技術(shù)進展,該公司自主研發(fā)的PerfXLM+推理框架已成功實現(xiàn)對海光DCU的深度適配與優(yōu)化,特別針對DeepSeek全系列模型進行了專項優(yōu)化。

澎峰科技在其官方網(wǎng)站上展示了這一成果,并表示此次適配通過優(yōu)化底層架構(gòu),充分發(fā)揮了海光DCU的強大算力。特別是在處理DeepSeek-R1-Distill系列等模型時,結(jié)合海光DCU的并行計算能力,PerfXLM+推理框架有效降低了資源消耗,顯著提升了推理效率。

在生態(tài)方面,海光DCU基于GPGPU通用加速計算架構(gòu)設(shè)計,兼具出色的兼容性和生態(tài)開放性。這意味著DeepSeek模型可以直接在海光DCU上運行,無需進行復(fù)雜的底層適配工作。技術(shù)團隊可以更加專注于模型的精度驗證和性能優(yōu)化,從而加快部署進程。PerfXLM+推理框架還通過模型量化、算子融合等核心技術(shù),為企業(yè)提供了低成本、高穩(wěn)定性的AI推理服務(wù)。

在應(yīng)用場景方面,澎峰科技的PerfXLM+推理框架已經(jīng)覆蓋了自然語言處理、多模態(tài)理解等核心領(lǐng)域。借助海光DCU集群,客戶可以快速迭代和彈性擴展模型,滿足各行業(yè)對實時推理的需求,推動AI技術(shù)的規(guī)模化應(yīng)用。

此前中科曙光國家先進計算產(chǎn)業(yè)創(chuàng)新中心有限公司也宣布了海光信息技術(shù)團隊成功完成DeepSeek V3和R1模型與海光DCU的國產(chǎn)化適配,并正式上線。這一消息進一步證明了海光DCU在AI領(lǐng)域的應(yīng)用潛力和澎峰科技在AI推理框架方面的技術(shù)實力。

舉報 0 收藏 0 打賞 0評論 0
 
 
更多>同類資訊
全站最新
熱門內(nèi)容
網(wǎng)站首頁  |  關(guān)于我們  |  聯(lián)系方式  |  版權(quán)聲明  |  RSS訂閱  |  開放轉(zhuǎn)載  |  滾動資訊  |  爭議稿件處理  |  English Version