華為技術(shù)有限公司近期宣布了一項重要進(jìn)展，其ModelEngine AI平臺現(xiàn)已全面接納DeepSeek大模型R1與V3版本，以及蒸餾系列模型的本地化部署與優(yōu)化工作。這一消息標(biāo)志著華為在AI技術(shù)應(yīng)用領(lǐng)域邁出了堅實的一步。
ModelEngine，作為華為傾力打造的AI平臺，專注于大模型的訓(xùn)練、推理及應(yīng)用開發(fā)。它為用戶提供了從數(shù)據(jù)預(yù)處理直至模型訓(xùn)練、優(yōu)化及部署的全方位服務(wù)。此次升級，ModelEngine依托昇騰AI芯片的強大性能，通過推理框架的深度優(yōu)化與MoE存算協(xié)同技術(shù)，實現(xiàn)了推理過程中的高并發(fā)與低時延，讓用戶能夠親身體驗到DeepSeek卓越的推理能力。
在部署靈活性方面，ModelEngine展現(xiàn)出了其獨特的優(yōu)勢。平臺全面支持DeepSeek系列模型R1 & V3 671B及蒸餾系列模型，開發(fā)者只需簡單操作即可實現(xiàn)“一鍵部署”。這一功能極大地簡化了硬件選型、兼容性驗證及環(huán)境配置等復(fù)雜流程，有效降低了企業(yè)AI應(yīng)用的門檻。同時，ModelEngine的高度開放性和模塊化設(shè)計，也顯著縮短了DeepSeek模型的本地部署時間。
在企業(yè)級穩(wěn)定性方面，ModelEngine同樣表現(xiàn)出色。它提供了負(fù)載均衡、模型安全接入及多用戶配額管理等高級功能，確保了在大規(guī)模生產(chǎn)環(huán)境下的穩(wěn)定運行。據(jù)某證券公司透露，在引入DCS AI全棧解決方案后，其運維成本成功降低了42%，充分證明了ModelEngine在實際應(yīng)用中的價值。
華為官方還透露，DCS AI全棧解決方案即將上線DeepSeek體驗環(huán)境。這一舉措無疑將進(jìn)一步提升用戶對DeepSeek模型的認(rèn)知與體驗，推動AI技術(shù)在更多領(lǐng)域的應(yīng)用與發(fā)展。
ModelEngine作為華為DCS（數(shù)據(jù)中心堆棧）全棧的AI訓(xùn)推全流程工具鏈，采用了業(yè)界首個AI流式編程框架。它涵蓋了從數(shù)據(jù)處理、知識生成，到模型微調(diào)和部署，以及RAG應(yīng)用開發(fā)與應(yīng)用部署的全過程，為數(shù)據(jù)處理工程師、模型工程師及應(yīng)用開發(fā)者提供了極為便捷的全流程AI開發(fā)體驗。
華為此次的技術(shù)升級，不僅展示了其在AI技術(shù)領(lǐng)域的深厚積累與創(chuàng)新實力，也為廣大開發(fā)者提供了更加高效、便捷的AI應(yīng)用開發(fā)平臺。隨著DeepSeek體驗環(huán)境的上線，相信將有更多用戶能夠親身體驗到AI技術(shù)的魅力與潛力。
