华为昇腾A2首次实现美团万亿参数模型LongCat-2.0端到端部署

2026年7月6日，华为昇腾AI异构计算架构团队首次全面公开美团万亿参数大模型LongCat-2.0在昇腾A2芯片上的端到端部署方案。

LongCat-2.0参数总量达1.6万亿，原生支持长达100万Token的上下文处理能力。作为业内首个完全依托国产算力完成训练与推理全流程的万亿级参数模型，其技术实现具有里程碑意义。

该模型部署于昇腾Atlas A2 192卡集群，单节点配置16张加速卡。在推理的Prefill阶段，系统调度64张昇腾A2协同运算；Decode阶段则启用128卡超大规模专家并行架构，充分释放硬件潜力。

每张昇腾A2芯片集成高速互联网卡，单卡带宽达200Gbps，为分布式推理提供了坚实的通信基础。针对LongCat-2.0所采用的MoE超稀疏专家结构及百万级长序列特性，昇腾AI架构团队实施了系统级深度优化。

在Prefill阶段，融合流水线并行与序列并行策略，将模型逻辑划分为8个独立计算阶段，使MoE相关通信开销降低至原有水平的十分之一。Decode阶段则依据输入序列长度动态适配并行策略：短序列请求采用数据并行128加专家并行128组合方案；超长序列则切换为数据并行16结合上下文并行8再叠加专家并行128的混合架构，最终达成端到端时延仅20毫秒的性能表现。

算法层面，Prefill阶段引入FlashComm技术，显著减少向量计算资源占用；Decode阶段充分发挥昇腾A2芯片超大L2缓存优势，实现模型权重的异步预取，大幅提升矩阵运算效率。

在计算流调度设计上，同步推进计算与通信双流并行机制，将MoE专家计算路径与Dense层计算路径解耦为两个独立执行流，从而更高效地利用芯片带宽与算力资源。

LongCat-2.0是美团继今年1月发布LongCat-Flash-2601之后推出的又一重要开源成果。其测试版本已在国际主流开放平台实现大规模调用，累计调用量稳居全球前三。

业内普遍认为，此次昇腾A2平台完整部署方案与关键技术细节的首次公开，标志着国产AI芯片已具备稳定承载万亿参数大模型推理任务的工程化能力，为人工智能核心算力的自主可控提供了具备推广价值的技术路径。