中关村在线

热点资讯

国产CPU也能支持DeepSeek 性能达到国外CPU的80%

飞腾平台现已实现对DeepSeek全系列大模型的端到端支持,包括飞腾腾云S5000C和飞腾腾锐D3000处理器,覆盖了数据中心和终端场景,并且性能表现优异。

飞腾在DeepSeek-V3和R1版本发布后,迅速在腾云S5000C和腾锐D3000平台上进行了本地部署验证,形成了整体的解决方案,构建了端到端的国产平台DeepSeek大模型智算环境。在数据中心方面,腾云S5000C服务器可与多款AI加速卡配合,实现DeepSeek蒸馏版和全量版的部署。

官方实测数据显示,飞腾腾云S5000C搭配8块国产AI加速卡,DeepSeek-R1-Distill-Llama-70B版本的推理速度可达每秒22个tokens,其本地部署的推理效率与国外同类产品相当,整体性能约为国外平台性能的80%。此外,完整版DeepSeek R1 671B模型也已成功部署在基于四机、32卡AI服务器集群的分布式推理框架上。

在用户终端方面,基于腾锐D3000和银河麒麟V10系统的台式机能够本地部署DeepSeek-R1 7B蒸馏版模型,并搭配1张国产推理卡,实现了AI PC能力,构建了安全可靠的本地知识助手。

展开全文
人赞过该文
内容纠错

相关电商优惠

评论

更多评论
还没有人评论~ 快来抢沙发吧~

读过此文的还读过

点击加载更多

内容相关产品

说点什么吧~ 0

发评论,赚金豆

收藏 0 分享
首页查报价问答论坛下载手机笔记本游戏硬件数码影音家用电器办公打印 更多

更多频道

频道导航
辅助工具