中科曙光于2026年9月21日正式推出全新一代AI推理原生存储系统FN Neo。该系统专为大模型推理场景深度优化,通过统一纳管分布式计算节点中的推理缓存资源,实现跨节点缓存共享与复用,显著缓解长文本处理及多用户高并发访问带来的性能压力,提升已有计算结果的复用效率。
实测表明,FN Neo将模型首词生成时间(TTFT)降低73%,响应速度超越本地NVMe存储;在端到端延迟、单节点吞吐量及多请求并发处理能力等关键指标上,均较传统本地NVMe方案实现跨越式提升。整体Token吞吐量提升150%,大幅缩短用户交互等待时间,显著增强系统的高并发服务能力。
为满足生产级AI业务全年无休的稳定运行要求,FN Neo具备99.999%的系统可用性,内置多重容错与故障自愈机制,确保推理服务持续在线、业务不中断。
该产品全面兼容主流AI推理框架及多样化网络架构,支持平滑集成至现有基础设施,无需对既有推理生态进行大规模重构。企业可在延续原有技术栈的基础上,高效实现性能升级与规模扩展,为大模型及智能体的产业化部署提供坚实可靠的存储底座。

评论
更多评论