中关村在线

热点资讯

国内首套1024卡昇腾液冷超节点投运,支撑Step 5大模型全栈优化

2026年10月15日,国内首套配备1024张昇腾NPU加速卡的Atlas 950 SuperPoD液冷超节点正式投入运行,并同步完成对阶跃星辰Step 5 Preview大模型的首发日适配。这是当前业内规模最大的超节点系统首次实现实际部署。

该超节点基于灵衢高速互联架构与超节点技术体系构建,单集群集成1024张昇腾NPU加速卡,整机采用计算柜与互联柜全液冷散热设计,可提供1 EFLOPS FP8及2 EFLOPS FP4精度的峰值算力,专为万亿参数级大模型的高并发训练与推理任务而优化。

在核心能力方面,系统支持256TB全局统一内存编址,NPU卡间互联带宽达TB级,端到端通信时延低至3微秒。依托灵衢互联架构,全部1024张加速卡可实现直接互访,无需协议转换或外部交换设备中转,从根本上突破传统分布式集群的通信瓶颈。整套系统在逻辑层面可视为一台高度集成的超级计算机,其整体算力随节点规模扩展保持近似线性增长。

伴随Step 5 Preview大模型的开源发布,昇腾平台基于vLLM推理引擎同步完成首发日适配。针对该模型特有的稀疏混合专家架构与超长上下文能力,从底层算子融合、跨卡通信调度到上层框架资源分配三个维度展开全栈协同优化,全面释放千卡集群的硬件潜能,推理性能达到国际先进水平。

此次1024卡液冷超节点的成功落地,标志着昇腾在大模型推理领域完成了高密度算力基础设施的关键布局。系统可稳定支撑万亿参数模型训练、百万级Token上下文处理、多模态智能体等前沿人工智能应用,为国产大模型生态提供了安全可靠、性能卓越的自主算力底座。

展开全文
人赞过该文 赞
内容纠错

相关电商优惠

评论

更多评论
还没有人评论~ 快来抢沙发吧~

读过此文的还读过

点击加载更多

内容相关产品

说点什么吧~ 0

发评论,赚金豆

收藏 0 分享
首页查报价问答论坛下载手机笔记本游戏硬件数码影音家用电器办公打印 更多

更多频道

频道导航
辅助工具