華為技術(shù)有限公司近期宣布了一項(xiàng)重要進(jìn)展，其ModelEngine AI平臺(tái)現(xiàn)已全面接納DeepSeek大模型R1與V3版本，以及蒸餾系列模型的本地化部署與優(yōu)化工作。這一消息標(biāo)志著華為在AI技術(shù)應(yīng)用領(lǐng)域邁出了堅(jiān)實(shí)的一步。
ModelEngine，作為華為傾力打造的AI平臺(tái)，專注于大模型的訓(xùn)練、推理及應(yīng)用開發(fā)。它為用戶提供了從數(shù)據(jù)預(yù)處理直至模型訓(xùn)練、優(yōu)化及部署的全方位服務(wù)。此次升級(jí)，ModelEngine依托昇騰AI芯片的強(qiáng)大性能，通過推理框架的深度優(yōu)化與MoE存算協(xié)同技術(shù)，實(shí)現(xiàn)了推理過程中的高并發(fā)與低時(shí)延，讓用戶能夠親身體驗(yàn)到DeepSeek卓越的推理能力。
在部署靈活性方面，ModelEngine展現(xiàn)出了其獨(dú)特的優(yōu)勢。平臺(tái)全面支持DeepSeek系列模型R1 & V3 671B及蒸餾系列模型，開發(fā)者只需簡單操作即可實(shí)現(xiàn)“一鍵部署”。這一功能極大地簡化了硬件選型、兼容性驗(yàn)證及環(huán)境配置等復(fù)雜流程，有效降低了企業(yè)AI應(yīng)用的門檻。同時(shí)，ModelEngine的高度開放性和模塊化設(shè)計(jì)，也顯著縮短了DeepSeek模型的本地部署時(shí)間。
在企業(yè)級(jí)穩(wěn)定性方面，ModelEngine同樣表現(xiàn)出色。它提供了負(fù)載均衡、模型安全接入及多用戶配額管理等高級(jí)功能，確保了在大規(guī)模生產(chǎn)環(huán)境下的穩(wěn)定運(yùn)行。據(jù)某證券公司透露，在引入DCS AI全棧解決方案后，其運(yùn)維成本成功降低了42%，充分證明了ModelEngine在實(shí)際應(yīng)用中的價(jià)值。
華為官方還透露，DCS AI全棧解決方案即將上線DeepSeek體驗(yàn)環(huán)境。這一舉措無疑將進(jìn)一步提升用戶對(duì)DeepSeek模型的認(rèn)知與體驗(yàn)，推動(dòng)AI技術(shù)在更多領(lǐng)域的應(yīng)用與發(fā)展。
ModelEngine作為華為DCS（數(shù)據(jù)中心堆棧）全棧的AI訓(xùn)推全流程工具鏈，采用了業(yè)界首個(gè)AI流式編程框架。它涵蓋了從數(shù)據(jù)處理、知識(shí)生成，到模型微調(diào)和部署，以及RAG應(yīng)用開發(fā)與應(yīng)用部署的全過程，為數(shù)據(jù)處理工程師、模型工程師及應(yīng)用開發(fā)者提供了極為便捷的全流程AI開發(fā)體驗(yàn)。
華為此次的技術(shù)升級(jí)，不僅展示了其在AI技術(shù)領(lǐng)域的深厚積累與創(chuàng)新實(shí)力，也為廣大開發(fā)者提供了更加高效、便捷的AI應(yīng)用開發(fā)平臺(tái)。隨著DeepSeek體驗(yàn)環(huán)境的上線，相信將有更多用戶能夠親身體驗(yàn)到AI技術(shù)的魅力與潛力。
