算力#芯片#模型推理

华为 1024 卡昇腾 Atlas 950 SuperPoD 点亮:1 EFLOPS FP8、256TB 统一内存编址、3μs 时延

10 月 15 日华为据报点亮首套 1024 卡 Atlas 950 SuperPoD;唯一一手昇腾部署文档实测仅 8 卡,并明示不建议投产。

一束光纤在深色背景中发散,末端亮着红色光点

华为 10 月 15 日据中文媒体报道点亮首套 1024 卡昇腾 Atlas 950 SuperPoD 液冷超节点,同日昇腾完成对阶跃星辰(StepFun)Step 5 Preview 的 0Day 适配。Atlas 950 SuperPoD 是华为基于灵衢(UnifiedBus)互联协议的超节点产品,中文媒体给出的配置口径为 1 EFLOPS FP8、2 EFLOPS FP4、256TB 全局统一内存编址、3μs 端到端时延。同一批材料里唯一一份一手部署文档,实测规模是 2 节点共 8 卡,文档原文写明「不建议直接用于生产环境」。

要点

  • 据 IT之家、快科技等中文媒体报道,首套 1024 卡 Atlas 950 SuperPoD 于 2026-10-15 随 Step 5 Preview 开源同步点亮,「点亮」指系统首次上电并进入运行状态;四家媒体转述的是同一套规格数字。
  • 华为 2025-09-18 HC2025 主题演讲给出的 Atlas 950 SuperPoD 满配口径是最多 8192 颗 Ascend 950DT、8 EFLOPS FP8、16 EFLOPS FP4、1152TB 内存、互联时延 2.1μs,计划 2026 年第四季度上市;1024 卡是这个产品族中的一个子配置。
  • vLLM Ascend 官方 Step-5-Preview 部署指南的实测环境为 2 节点 × 4 NPU 共 8 卡,只报告 GPQA Diamond 93.8 与 MMMU-Pro 76.24 两项准确率,并明示「性能优化与可靠性验证仍在进行中」。

背景

Atlas 950 SuperPoD 的公开起点是华为 2025 年 9 月 18 日的 HC2025 主题演讲。徐直军在演讲中给出的满配形态是 8192 颗 Ascend 950DT、160 个机柜(128 个计算柜加 32 个通信柜)、约 1000 平方米部署空间、全光互联,2026 年第四季度上市。支撑这个形态的互联协议叫 UnifiedBus,中文名「灵衢」,v2.0 为 Atlas 950 SuperPoD 铺路;华为称互联时延压到 2.1μs、互联带宽 16 PB/s,光互联可靠性比此前方案提升 100 倍、覆盖距离超过 200 米。同页也提到,业界既有方案在机柜间 NPU 到 NPU 时延上「约 3 微秒」——中文媒体写的 3μs 与它未必是同一层。再往上是 Atlas 950 SuperCluster,64 台 Atlas 950 SuperPoD 连成 524 EFLOPS FP8;Atlas 960 SuperPoD 计划 2027 年第四季度用最多 15488 颗 Ascend 960 做到 30 EFLOPS FP8。

软件侧的铺垫早于这次点亮。DeepSeek 于 2026-09-30 开源六个昇腾基础组件仓库,把 V4 系列模型的算子层搬上昇腾(见本站报道)。Step 5 Preview 的 0Day 适配是这条路径上的第二次落地,也是目前 600B 量级开源模型在昇腾上少见的完整部署记录。

事实部分

Atlas 950 SuperPoD 有两套规格口径需要先分开:中文媒体手里的「1024 卡」是一份子配置,华为演讲兜售的是满配 8192 卡。两组数字都对应同一个产品族,混用会得出错误结论。

项目1024 卡配置(中文媒体口径)满配 8192 卡(华为 HC2025 口径)
卡数1024 颗昇腾 NPU最多 8192 颗 Ascend 950DT
FP8 算力1 EFLOPS8 EFLOPS
FP4 算力2 EFLOPS16 EFLOPS
内存256TB 全局统一内存编址1152TB
时延端到端低至 3μs互联 2.1μs
机柜16 计算柜 + 4 交换柜(LightCounting)160 个(128 计算 + 32 通信)
上市时间未给出2026 年第四季度

两组时延数字也不是同一个东西。华为 2025-09-18 演讲里的 2.1μs 指 SuperPoD 互联时延;中文媒体给 1024 卡配置的 3μs 写作「端到端时延」。同页提到业界既有方案「约 3 微秒」,与中文媒体的数字接近,但两份材料都没有说明这个差值出在哪一层。功耗 TDP、单柜功率、定价都没有来源。

其余可查事实来自一手材料:

  • Step 5 Preview 模型卡(Hugging Face):稀疏 MoE,600B 总参数、每 token 激活 27B,上下文上限 1M token 且输入输出合计,接受文本、图像与视频输入,默认权重为 FP8;BF16 需另取 Step-5-Preview-BF16 checkpoint。模型卡特别提醒,在 FP8 checkpoint 上设 --dtype bfloat16 不会把量化权重转成 BF16。
  • 许可证为 StepFun Model License 1.0,Hugging Face 描述为「Apache-2.0 风格,附加署名与商用条件」。推荐推理参数 temperature=1.0、top_p=0.95、top_k=0。
  • 部署实现的版本组合(vLLM Ascend 文档):HDK 25.5.0、CANN 9.2.0、torch_npu 2.10.0.post4、vLLM 与 vLLM-Ascend v0.27.0,容器镜像 quay.io/ascend/vllm-ascend:step5-a5-openeuler;文档说明源码安装不受支持。
  • 代码合并时间:vllm-project/vllm-ascend 的 PR #18774「[Doc] Add Step 5 Preview deployment guide」于 2026-10-15T08:20:02Z 合并,改动 4 个文件、新增 275 行,纯文档。

昇腾软件栈

中文通稿的口径是「推理性能追平海外先进算力」,一手文档给出的是另一组事实。vLLM Ascend 的 Step-5-Preview 部署指南把支持范围限定在 950DT 产品上,并写明「其他昇腾硬件(如 Atlas A3 产品)不受支持」。实测配置是 2 节点共部署,--tensor-parallel-size 4、--data-parallel-size 4、--data-parallel-size-local 2,合计 8 颗 NPU;文档同时说明,1M 上下文正是靠这个 DP=4 跨 2 节点的部署拉起来的。

这份指南只报告了两项准确率:GPQA Diamond 93.8、MMMU-Pro 76.24,取的是 vllm-api-general-chat 的 gen 模式结果,没有吞吐或时延数字。它给出三条限制:当前版本「仅供早期体验」;「服务可靠性尚未完全验证」;「不建议直接用于生产环境」。LoRA、Pipeline Parallel、Prefill-Decode Disaggregation 明确列为未验证。文档还提到首次加载权重「通常需要约 10 分钟」。

新智元那篇列出的三层优化与 vLLM Ascend 文档的启动参数能对上:Ascend C 与 Triton 融合算子对应 W8A8 MXFP8 权重(权重名 Step-5-Preview-w8a8-mxfp8);FullMesh+CLOS 对应 Allreduce、Allgather、ReduceScatter 的带宽最大化;MTP 投机解码对应 --speculative-config 里的 num_speculative_tokens 3 与 method mtp。新智元自己在文末注明:「文中性能比例来自对应算子或局部链路的专项对比测试,实际收益随硬件配置与业务负载变化。」

各方说法

IT之家(2026-10-15 22:07)转述华为说法,称首套 1024 卡超节点「随 Step 5 Preview 的开源同步上线点亮」,性能「持平海外先进算力」,原文写作「据华为介绍」「华为表示」。同文还列出沐曦、壁仞、摩尔线程的 Day 0 适配声明,其中沐曦称自 2025 年 12 月起已适配 43 个旗舰模型。快科技(2026-10-15)给出同一套规格数字,加上「追平海外先进算力水平」的表述,并提到计算柜与互联柜采用全液冷散热设计。

LightCounting 的分析师 Carol Cao 在 2026-07-21 的研究简报里从造价角度拆了这个系统:1024 NPU 集群是 16 个计算柜加 4 个 UB 交换柜,每个计算柜 8 个 NPU 托盘、每托盘 8 颗 NPU,整机 4096 只 800G 光模块;每 NPU 的模块配置从 8×400G 改为 2×800G,是超节点里第一个采用 LPO(线性直驱可插拔光模块)的设计。该简报为付费内容,摘要没有给出 TDP、单柜功率或价格,它描述的系统是 2026 年 7 月 WAIC 上展示的那一套,与 10 月 15 日点亮的这一套是否为同一配置,材料里没有说明。

「1024 卡点亮」这个动作本身目前没有一手信源。本次检索在华为官网新闻中心没有找到对应公告,阶跃星辰官网也没有对应发布;四家中文媒体转述的是同一套通稿口径。

怎么试

想复现文档里那个 8 卡部署,最小路径是按 vLLM Ascend 指南准备 2 台 950DT 节点(每台 8 NPU),拉取容器镜像,从 ModelScope 取 Step-5-Preview-w8a8-mxfp8 权重,再按指南的 vllm serve 命令启动。指南中的关键启动参数如下(节选):

vllm serve Step-5-Preview-w8a8-mxfp8 \
  --served-model-name step \
  --tensor-parallel-size 4 \
  --data-parallel-size 4 \
  --data-parallel-size-local 2 \
  --max-model-len 1048576 \
  --enable-expert-parallel \
  --speculative-config '{"num_speculative_tokens": 3,"method": "mtp"}'

没有 8 卡昇腾硬件的人可以只读模型卡和部署指南:前者说明模型能力与许可证边界,后者把 1M 上下文在昇腾上的实现方式写成了可照抄的命令。同一周公开的微软 Maia 300 推理芯片给出了另一条自建推理底座的路线,可以对照着看。

编辑判断

给做推理选型的人一句实话:1024 卡这个配置目前只有厂商口径,四家中文媒体的规格数字都能追溯到华为的对外说法,既没有一手公告,也没有第三方复测。把 1 EFLOPS、256TB 和「持平海外先进算力」当待验证项来读,是眼下唯一稳妥的姿态;下一个可核实的节点是 2026 年第四季度满配 8192 卡上市。

给昇腾生态的开发者,这次真正可复用的是软件。vLLM Ascend 的 Step 5 指南把「1M 上下文怎么在昇腾上跑起来」写成了带参数的完整命令,从 DP 跨节点到 MTP 投机解码都有配置项,也把边界写清楚了:只支持 950DT、只验证 8 卡、不建议投产。这份诚实比通稿里的性能口号有用。昇腾这条线上,DeepSeek 的算子层开源加上 vLLM Ascend 的部署文档,正在把「国产卡能不能跑前沿模型」变成一个有答案的工程问题;同一批材料里 vLLM 原班人马做的推理内核优化说明,瓶颈正从「跑不跑得动」转向「跑得多便宜」。