2026年10月15日，阶跃星辰正式开源新一代旗舰模型Step 5 Preview，在AI编程、软件工程、专业知识工作、金融等任务上达到前沿水平。此次Step 5 Preview一经开源发布，昇腾就基于vLLM推理引擎实现了0Day支持，并围绕模型架构与硬件特性实现了高效推理优化。
华为与阶跃星辰持续深化合作，基于昇腾Atlas 950 SuperPoD液冷超节点，为Step系列大模型提供算力服务，性能持平海外先进算力。
Step 5 Preview：全能前沿，架构革新
Step 5 Preview采用稀疏MoE架构，总参数量600B，每个Token激活27B参数，支持1M Token上下文窗口和图像、视频的多模态输入。同时，Step 5 Preview在软件工程、Agent、专业工作和金融等多个方向上都取得了有竞争力的表现。
Step 5 Preview与主流前沿模型
在Agentic Benchmark上的性能对比
Step 5 Preview采用了全新的Sparse Attention结构，支持1M Token上下文窗口，先通过Indexer选择Token，在选中Token的范围内计算self attention。为了解决Index计算瓶颈的问题，通过以Region（8个token）为单位压缩Indexer Key兼顾效率与性能。
昇腾950液冷超节点为前沿模型提供高效支撑
昇腾通过垂直整合、水平开放的超节点系统架构，赋能前沿模型的技术创新。
昇腾Atlas 950 SuperPoD液冷超节点基于灵衢高速互联架构与超节点技术体系打造，是业界规模最大的1024卡超节点产品，可提供1 EFLOPS FP8、2 EFLOPS FP4精度澎湃算力，高效适配万亿参数大模型的推理场景需求。昇腾950超节点具备256TB全局统一内存编址能力、NPU卡间达TB级互联带宽、时延低至3μs，彻底突破传统集群内计算与存储资源的通信瓶颈；通过系统性架构创新与全域资源统一调度，实现了整套集群算力的高效释放与稳定运行。
昇腾Atlas 950 SuperPoD液冷超节点
昇腾：软硬协同优化，释放950超节点强大推理潜能
昇腾基于vLLM Ascend推理引擎，围绕Step 5 Preview模型架构与950超节点硬件特性，协同构建高效的推理优化方案。从Ascend C与Triton融合算子，到多流并行、计算空泡优化，再到MTP投机解码、NPU Graph图执行，持续打通模型、算子和推理框架之间的优化链路，为Step 5 Preview部署提供高效算力支撑。
算子优化：Ascend C与Triton协同，兼顾极致性能与开发效率
针对Step 5 Preview的稀疏注意力、模型连接结构与混合专家网络，昇腾结合CANN算子能力与Triton编程将分散的计算和数据处理实现高效执行。
IndexerLogits 与SparseAttn Ascend C算子：昇腾950超节点新增FP8算力，支持IndexerLogits的原生FP8计算，通过将token打分与TopK、Sort等token筛选的过程融合为Indexer Logits Ascend C算子，使用成对region搬移提升搬运带宽；借助SparseAttn算子使用vector单元的SIMD能力替代scalar运算。
Triton融合Kernel加速：围绕Norm、Indexer key压缩，实现关键融合算子（qk norm、index key压缩等）优化，通过添加AutoTune，自动寻优昇腾亲和的Tiling大小，使能950超节点中的SIMT能力，通过qk norm融合和Indexer Key压缩实现性能加速。
MoE专家路由优化：围绕Hash TopK专家选择，优化路由前处理与精度传递，减少跨层重复操作。
MXFP8量化：昇腾950超节点硬件单元实现了MXFP8的反量化，通过重新量化权重为MXFP8格式，在精度几乎无损的情况下极致发挥950超节点的硬件算力。
从核心注意力到专家路由，从融合计算到数据搬运优化，多层次算子协同使Step 5 Preview的架构特点与昇腾硬件能力更紧密地结合。
通信优化：FullMesh+CLOS融合架构与算法创新，大幅提升通信性能
FullMesh+CLOS最大化带宽：950超节点可以同时利用FullMesh +CLOS进行通信，最大化提升Allreduce、Allgather、ReduceScatter等通信原语的性能。
Dispatch Server级去重，减少跨服务器重复传输：在昇腾950超节点的高吞吐方案中，同一Token可能被多个专家选中，如果这些专家位于同一远端服务器，则通过跨服务器先发送一份主副本，再在服务器内分发，减少重复流量。面对多个发送方，按组分发任务，结合并行通道与批量提交，减少零散发送，让数据传输持续推进。
Combine通过双缓冲，实现Reduce与通信回传重叠：专家计算完成后，先对同一输入对应的多份结果进行局部归并，再按数据块回传。两个输出缓冲区交替使用，让上一批结果回传的同时，下一批继续进行Reduce（归并），减少归并与回传之间的等待。
框架优化：序列并行、多流并行、Tiling下沉协同，减少重复操作与调度开销
推理效率不仅取决于算子的执行速度，也取决推理框架如何最大程度减少重复操作，将没有数据依赖的计算并行，通过图模式和异步调度，减少计算单元的等待，让各阶段衔接得更紧密。
MoE序列并行：围绕模型连接结构、引入序列并行降低冗余计算和通信。
Vector/Cube/通信多流并行：结合昇腾向量、矩阵计算单元以及通信单元可以并行执行的特点，通过多流调度组织计算与访存交叠，减少串行等待和计算空泡，提高硬件资源利用效率。
NPU Graph图执行优化：将解码阶段的计算纳入图执行，结合持久化缓冲区和输出复用，减少重复调度、临时分配与数据拷贝，使高频解码过程更紧凑。
多token预测优化与tiling下沉：适配Step系列模型的多token预测（MTP）机制，提升单步生成效率。通过attention算子的tiling下沉，将主模型与草稿模型、每步推理之间的断流消除，从而减少device空泡，提升运行效率，并借助950超节点的高带宽，实现极致的高吞吐。
Prefill Indexer Key压缩阶段slot预分配：通过将模型内动态搜索可用的slot（用于存储Index Key压缩后的位置）改为预分配，消除了层间的冗余操作。
通过算子执行、图运行与调度策略的协同设计，适配方案从多个层面压缩推理过程中的非计算开销，持续挖掘硬件与模型的性能潜力。从算子融合到通信优化、框架优化，昇腾将持续推动Step5 Preview的推理能力向实际应用转化，为长上下文、多模态与智能体场景提高效算力支撑。
Step 5 Preview昇腾量化版本推理部署指导
用户及开发者可访问以下链接获取Step 5 Preview昇腾量化版本的推理部署指导，进行体验（实际性能与部署方案、参数配置及软硬件环境等因素相关，并将持续优化提升）：
vLLM Ascend：
https://docs.vllm.ai/projects/ascend/en/latest/tutorials/models/Step-5-Preview.html
注：文中性能比例来自对应算子或局部链路的专项对比测试，实际收益随硬件配置与业务负载变化。
