近日，飛騰平臺(tái)宣布全面支持DeepSeek全系列大模型，這一舉措涵蓋了飛騰騰云S5000C與騰銳D3000處理器，廣泛適用于數(shù)據(jù)中心及終端應(yīng)用場(chǎng)景，展現(xiàn)出卓越的性能表現(xiàn)。
在DeepSeek-V3與R1版本面世后，飛騰迅速行動(dòng)，在騰云S5000C與騰銳D3000平臺(tái)上進(jìn)行了詳盡的本地部署驗(yàn)證，成功構(gòu)建了一整套端到端的國(guó)產(chǎn)平臺(tái)DeepSeek大模型智能計(jì)算環(huán)境。特別是在數(shù)據(jù)中心領(lǐng)域，騰云S5000C服務(wù)器與多款國(guó)產(chǎn)AI加速卡的協(xié)同工作，使得DeepSeek蒸餾版與全量版得以順利部署。
據(jù)官方實(shí)際測(cè)試數(shù)據(jù)揭示，飛騰騰云S5000C配合8張國(guó)產(chǎn)AI加速卡使用時(shí)，DeepSeek-R1-Distill-Llama-70B版本的推理速度驚人，每秒可處理22個(gè)tokens，其本地部署的推理效率與海外同類(lèi)產(chǎn)品旗鼓相當(dāng)，整體性能達(dá)到了國(guó)外平臺(tái)性能的約80%。DeepSeek R1 671B的完整版模型也已在由四臺(tái)機(jī)器、32張AI加速卡組成的服務(wù)器集群上，通過(guò)分布式推理框架成功部署。
在用戶(hù)終端層面，基于騰銳D3000處理器與銀河麒麟V10操作系統(tǒng)的臺(tái)式機(jī)，同樣展現(xiàn)出了強(qiáng)大的本地部署能力。通過(guò)搭載DeepSeek-R1 7B蒸餾版模型及1張國(guó)產(chǎn)推理卡，這些臺(tái)式機(jī)已具備了AI PC的功能，為用戶(hù)提供了一個(gè)安全可靠的本地知識(shí)助手。
飛騰平臺(tái)此番對(duì)DeepSeek全系列大模型的全面支持，不僅進(jìn)一步拓寬了國(guó)產(chǎn)處理器在AI領(lǐng)域的應(yīng)用范圍，也為數(shù)據(jù)中心與終端用戶(hù)帶來(lái)了更為高效、智能的解決方案，標(biāo)志著國(guó)產(chǎn)平臺(tái)在AI技術(shù)領(lǐng)域的又一重大突破。
