中关村在线

热点资讯

中科曙光发布AI推理原生存储系统FN Neo,性能与可用性双突破

中科曙光于2026年9月21日正式推出全新一代AI推理原生存储系统FN Neo。该系统专为大模型推理场景深度优化,通过统一纳管分布式计算节点中的推理缓存资源,实现跨节点缓存共享与复用,显著缓解长文本处理及多用户高并发访问带来的性能压力,提升已有计算结果的复用效率。

实测表明,FN Neo将模型首词生成时间(TTFT)降低73%,响应速度超越本地NVMe存储;在端到端延迟、单节点吞吐量及多请求并发处理能力等关键指标上,均较传统本地NVMe方案实现跨越式提升。整体Token吞吐量提升150%,大幅缩短用户交互等待时间,显著增强系统的高并发服务能力。

为满足生产级AI业务全年无休的稳定运行要求,FN Neo具备99.999%的系统可用性,内置多重容错与故障自愈机制,确保推理服务持续在线、业务不中断。

该产品全面兼容主流AI推理框架及多样化网络架构,支持平滑集成至现有基础设施,无需对既有推理生态进行大规模重构。企业可在延续原有技术栈的基础上,高效实现性能升级与规模扩展,为大模型及智能体的产业化部署提供坚实可靠的存储底座。

展开全文
人赞过该文
内容纠错

相关电商优惠

评论

更多评论
还没有人评论~ 快来抢沙发吧~

读过此文的还读过

点击加载更多

内容相关产品

说点什么吧~ 0

发评论,赚金豆

收藏 0 分享
首页查报价问答论坛下载手机笔记本游戏硬件数码影音家用电器办公打印 更多

更多频道

频道导航
辅助工具