AMD公布Helios机架级AI方案规格 全栈自研全液冷设计

7月21日，AMD公布了其首个全栈机架级AI方案Helios的详细规格参数。该方案包含18个计算托盘和6个交换机，整体采用全液冷散热，将在Advancing AI 2026活动上正式发布。

硬件全栈自研对标NVIDIA

Helios从GPU、CPU到网络芯片均由AMD自主研发，直接对标NVIDIA现有Oberon机架和即将推出的Kyber机架。这种全栈自研架构覆盖AI计算核心环节，以提升系统与软件协同效率。

开放参考设计定位

AMD指出，Helios不是直接销售的独立整机产品，而是一套开放机架级参考设计，采用Meta提交给OCP的Open Rack Wide标准。这意味着该设计旨在为行业提供可定制的高密度AI计算框架。

Helios包含18个计算托盘和6个交换机，支持高密度AI计算部署。

在Advancing AI 2026活动上，AMD将正式发布Helios方案，届时可能进一步披露技术细节与生态合作信息。

整机架72块GPU：计算托盘配置参数披露

近期，一组关于高性能计算托盘的详细配置信息被公开披露。该设计以密集集成为核心，每个计算托盘搭载4块Instinct MI455X GPU与1颗EPYC Venice CPU，整机架共集成72块GPU。

托盘架构：CPU与GPU配比1:4

每块计算托盘包含4张GPU与一颗CPU，两者比例为1:4。这一配比表明系统高度依赖GPU进行并行计算，CPU主要负责调度与数据管理。

该组合适用于大规模并行计算任务，如人工智能模型训练、科学模拟等负载场景。

机架集成：液冷与重量规格

整机架总计容纳72块GPU。每块GPU均覆盖铜制液冷冷板，利用液体循环带走热量，可在高功耗下维持稳定运行。

铜制液冷冷板是一种通过铜质冷板传导热量、由液体介质带走的散热技术，相比传统风冷具备更高的散热效率。

机架总重约5000磅（约2268公斤），反映出高密度硬件堆叠带来的物理重量。

功耗与成本区间

整机架整体运行功耗处于225kW至245kW之间，对应其高密度计算能力。

根据披露信息，单机架成本约为500万至550万美元，包含了GPU、CPU、液冷系统及集成费用。

核心规格一览：每托盘4块GPU+1颗CPU，机架共72GPU，重量约5000磅（2268kg），功耗225-245kW，成本500万-550万美元。

配置解读：高密度部署的参考指标

从CPU与GPU的比例来看，该托盘设计优先满足GPU密集型计算，CPU作为辅助节点。液冷方案的全面采用表明高功耗器件对散热提出了更高要求。

机架重量与功耗数据提示，此类计算单元需部署在承重能力与电力供应充足的数据中心环境中。

Helios整机架技术规格：2.9 Exaflops FP4算力与31TB HBM4内存

Helios整机架规格参数显示，该系统在算力、内存与互联带宽方面具备一系列明确指标。该设备可提供2.9 Exaflops FP4算力和1.4 Exaflops FP8算力，搭载总计31TB HBM4内存，聚合带宽达到1.4PB/s。

算力参数：FP4与FP8精度配置

Helios整机架同时支持两种浮点精度格式。FP4算力为2.9 Exaflops，FP8算力为1.4 Exaflops。Exaflops是每秒百亿亿次浮点运算的单位。FP4（4位浮点）精度较低但运算较快，FP8（8位浮点）精度较高，两者共同覆盖不同计算粒度需求。

内存与带宽：31TB HBM4与高速互联

内存部分采用31TB HBM4。HBM4是第四代高带宽内存，通过堆叠多个DRAM die并与处理器紧密封装，实现更大带宽与更低功耗。系统聚合带宽为1.4PB/s，纵向扩展互连带宽为260TB/s，纵向扩展带宽为43TB/s，这些指标影响多节点扩展时的数据吞吐性能。

核心分布：4600个CPU核心与18000个GPU核心

核心数量方面，整机架整合了4600个CPU核心与18000个GPU核心。CPU核心承担通用计算与任务调度，GPU核心则专注于并行计算密集型场景。从规格看，GPU核心占比显著，突出其面向大规模并行计算的定位。

关键参数一览：CPU核心4600个、GPU核心18000个、FP4算力2.9 Exaflops、FP8算力1.4 Exaflops、HBM4内存31TB、聚合带宽1.4PB/s。

Helios平台核心组件：MI455X GPU FP8算力达20 PFLOPS，领先NVIDIA Rubin

Helios平台的核心组件阵容由三大模块构成：AMD Instinct MI455X GPU、第六代EPYC Venice CPU与Pensando网络芯片。其中MI455X基于CDNA 5架构，单卡FP8算力达到20 PFLOPS，相比NVIDIA Rubin GPU的17.5 PFLOPS处于领先。

MI455X：翻倍算力与精度对比

作为Helios的计算核心，MI455X单卡提供40 PFLOPS FP4算力和20 PFLOPS FP8算力，两项指标均相比上一代MI350系列实现翻倍。在FP8精度上MI455X超过NVIDIA Rubin；在FP4精度上Rubin以50 PFLOPS领先。

FP4与FP8是两种低精度浮点计算标准：FP4适用于极端低延迟推理场景，FP8在AI训练和推理中兼顾精度与效率，成为当前主流精度之一。

Helios平台还集成了第六代EPYC Venice CPU和Pensando网络芯片，与MI455X GPU共同构成硬件堆栈。三者均为AMD旗下产品，覆盖计算、控制与互联三大环节。

AMD MI455X升级HBM4 内存432GB 容量较MI350提升50%

在下一代GPU的内存配置上，AMD MI455X确认从MI350系列的288GB HBM3e升级至432GB HBM4，容量提升50%，带宽从8TB/s跃升至19.6TB/s，提升超过一倍。竞品NVIDIA Rubin GPU则配备288GB HBM4，带宽达到22TB/s。AMD在内存容量上领先50%。

代际升级幅度

较前代MI350系列，MI455X的内存实现双重跃升：容量从288GB增至432GB，增幅50%；带宽从8TB/s升至19.6TB/s，提升超过一倍。这意味着HBM4的采用带来了显著的能力增强。

主要参数对比

• AMD MI455X：内存432GB HBM4，带宽19.6TB/s
• AMD MI350系列：内存288GB HBM3e，带宽8TB/s
• NVIDIA Rubin：内存288GB HBM4，带宽22TB/s

容量领先的重要意义

更大内存容量能直接提升AI推理效率。根据相关表述，更大的容量可容纳更大的模型分片，从而减少跨节点通信带来的开销。

432GB的配置相比288GB增加了144GB，这使得单个GPU有能力在没有外部通信的情况下处理更大规模的模型。对于大规模推理场景，这一优势尤为突出。

更大的容量意味着能加载更大的模型分片，减少跨节点通信开销，对大规模推理场景尤为关键。

带宽同步翻倍

除了容量翻倍，带宽的提升同样重要。从8TB/s到19.6TB/s的跃升，确保GPU能在更短时间内完成大量数据读取与写入，配合大容量内存实现高效数据流转。

虽然与NVIDIA Rubin的22TB/s相比仍存差距，但相较于上代已大幅改善。更高的带宽意味着计算单元可以更及时地获得数据，减少等待周期。

从HBM3e到HBM4的升级，使AMD GPU在内存容量和带宽上双双受益。NVIDIA Rubin同样选择HBM4，但配置了更高的带宽。两者在内存配置上的差异化特征就此凸显。

AMD MI400系列加速器产品线公开：三款型号覆盖AI训练与HPC场景

AMD MI400系列包含三款产品：MI455X、MI450X与MI430X，均基于CDNA 5架构。该系列分别面向大规模AI训练推理、高性能计算（HPC）及主权AI等应用方向。

AI训练与推理：MI455X与MI450X

MI455X与MI450X均定位为大规模AI训练和推理加速器。其中MI455X专用于Helios机架，为AI集群提供部署方案。

HPC与主权AI：MI430X

MI430X面向HPC和主权AI场景，具备该系列最高FP64（双精度浮点）计算能力。该产品支持CPU+GPU混合计算模式，并搭载与MI455X相同的HBM4（第四代高带宽内存）内存。

MI430X在FP64高精度计算与混合架构上具有特色，适合科学计算和本地化AI部署。

网络互连：开放标准对比封闭路线

CDNA 5架构带来基于标准的机架级网络互连支持，包括UALoE、UAL、UEC等开放标准。这与NVIDIA依赖NVLink和InfiniBand的封闭技术路线形成鲜明对比。

AMD在机架网络层面选择开放路线，可为数据中心提供更多兼容性选项。

产品分工一览

• MI455X：用于Helios机架，AI训练与推理
• MI450X：大规模AI训练与推理
• MI430X：HPC与主权AI，最高FP64，CPU+GPU混合计算，HBM4内存

EPYC Venice首款Zen 6 HPC芯片量产 台积电2nm工艺同功耗性能提升10%–15%

首款基于Zen 6微架构的HPC产品EPYC Venice正式亮相，同时成为台积电2nm制程下首颗进入量产阶段的高性能计算芯片。新一代架构与先进制程在高性能计算领域的首次协同落地由此开启。

台积电2nm工艺：GAA架构带来性能与功耗双重改善

台积电2nm工艺从FinFET转向全环绕栅极（GAA）晶体管结构，这是其晶体管技术的重大转变。根据官方数据，新工艺在同功耗下可实现10%至15%的性能提升；在同性能下，功耗可降低25%至30%。晶体管密度最高可提升15%。

同功耗下性能提升10%–15%
同性能下功耗降低25%–30%
晶体管密度提升最高15%

GAA晶体管架构通过将栅极完全包裹沟道四周，增强对电流的控制，从而在相同功耗下释放更高性能，或在相同计算负载下显著降低能耗。这一特性对于高功耗、高密度的HPC芯片至关重要。

EPYC Venice：首款Zen 6架构的HPC处理器

EPYC Venice被定义为首款基于Zen 6架构的HPC产品，也是台积电2nm工艺第一个进入量产的高性能计算芯片。HPC（High Performance Computing，高性能计算）通常指面向科学计算与高强度运算任务的计算系统，对核心数量、带宽和能效有极高要求。

作为2nm工艺的首颗HPC芯片，EPYC Venice将从制程提升中直接受益。更高的集成度与更优的能效比，有望使其在相同功耗范围内提供更高算力。

Zen 6架构是EPYC Venice搭载的核心微架构，专门为HPC工作负载设计。当前关于该芯片的更多详细规格尚未披露，但业界预期其将凭借新制程与架构的结合，在高性能计算领域树立新的性能标尺。

随着台积电2nm良率逐步爬升，预计将有更多HPC及数据中心芯片采用这一先进制程。EPYC Venice的量产也为后续2nm芯片的大范围应用打下基础。

AMD第六代Venice CPU面向AI Agent工作负载，性能领先NVIDIA Arm芯片

AMD在最新技术路线图中披露了其第六代EPYC处理器Venice的架构细节，该产品采用多芯片封装设计，配备256核心512线程，目标市场直指高速增长的Agentic AI工作负载。

多芯片封装与核心规格

Venice处理器采用8个大型计算芯片与2个更大的I/O芯片组合的封装方案，实现了高达256核心与512线程的配置。AMD提供的早期基准测试数据显示，相较于前代Turin（Zen 5），Venice在性能与能效方面整体提升超过70%，线程密度提升幅度则超过30%。

AI Agent架构需求驱动的CPU性能升级

随着AI应用从简单推理向具备自主规划和执行能力的Agentic AI演进，工作负载对CPU性能的要求正在急剧攀升。AI Agent需要频繁进行任务调度、内存管理与数据预处理，这些操作高度依赖CPU的多核并行处理能力。AMD指出，早期的基准测试结果已经显示，第五代Turin（Zen 5）在性能上领先NVIDIA基于Arm架构的Vera CPU，而第六代Venice的领先幅度进一步拉大。

能效与TCO优势

在相近功率设定条件下，Venice能够提供更高的计算性能和更优的总拥有成本（TCO）。这将使企业在部署大规模AI推理和服务节点时，有效降低电费与冷却开销。

目前Agentic AI工作负载对CPU性能的要求正在急剧攀升，AI Agent需要频繁的调度、内存管理和数据预处理。

• Venice采用8计算芯片+2 I/O芯片的多芯片封装
• 核心数：256核512线程
• 性能/能效提升：相比前代提升超过70%
• 线程密度提升：超过30%
• 对比对象：NVIDIA Vera Arm CPU

Helios网络互联方案：单GPU带宽达2.4Tbps，机架内支持72 GPU高速互连

Helios在网络互联层面构建的AI集群架构，搭载Pensando Vulcano 800 AI NIC与Salina DPU。该方案基于UALoE开放标准，在单个机架内实现最多72块GPU的高速互连，这一数量与单机架GPU总数精准对应。

Vulcano 800 AI NIC性能指标

Vulcano 800 AI NIC提供800 Gbps的以太网吞吐量。在单GPU纵向扩展带宽方面，该网卡支持最高2.4Tbps，是目前唯一达到这一指标的方案，其数值为其他同类网卡的8倍。纵向扩展带宽指单个GPU可获得的峰值网络带宽，高带宽对大规模AI训练中的数据同步至关重要。

低延迟通信与开放标准

Helios通过UALink/PCIe Gen6主机接口驱动GPU间的超低延迟通信，并支持UEC标准与RDMA以太网优化，以降低数据传输过程中的CPU开销。在开放标准层面，Helios基于UALoE实现机架内GPU的高速互连，适配高密度集群需求。

基于UALoE开放标准，Helios实现机架内最多72块GPU的高速互连，正好对应单机架GPU总数。

• Vulcano 800 AI NIC：800 Gbps以太网吞吐，单GPU纵向扩展带宽2.4Tbps，是其他方案的8倍
• UALink/PCIe Gen6主机接口，支持超低延迟GPU通信
• 兼容UEC标准和RDMA以太网优化
• Helios搭载Salina DPU，共同构成网络互联核心组件

Salina DPU搭载16颗Arm N1核心，数据卸载性能较CPU提升40%

DPU在数据中心基础设施中的价值

在网络、安全与存储任务的硬件卸载领域，DPU（数据处理单元）正成为释放CPU算力的关键组件。Salina DPU专门面向这一场景，通过专用硬件承接原本由CPU处理的数据面操作。

核心配置与性能基线

Salina DPU的核心硬件基于16颗Arm N1高性能处理核心构建，专门执行网络协议解析、安全加解密及存储I/O等卸载任务。与完全依赖通用CPU的传统方案相比，Salina DPU在处理这些负载时速度提升了40%。

Salina DPU性能是AMD上一代DPU的两倍，比NVIDIA BlueField-3 DPU快40%。

与现有竞品的横向对比

除与CPU方案的纵向对比外，Salina DPU在同类产品对标中也展现出量化优势。其性能达到AMD上一代DPU的两倍，同时相比NVIDIA当前主推的BlueField-3 DPU领先40%。这些数据构成了该产品在当前DPU市场中的竞争定位基础。

卸载机制的效率拆解

传统服务器架构中，网络协议、安全策略及存储操作会频繁中断CPU，造成大量上下文切换开销。DPU通过专用的硬件路径与嵌入式核心（如Arm N1）独立处理此类任务，使CPU得以专注于应用层与数据库计算。这种架构分工直接缩减了数据路径延迟，并提升了系统的整体数据吞吐效率。

AMD ROCm 7.14版本上线 微软等客户将部署Helios机架

AMD日前宣布其开源软件平台ROCm更新至7.14版本，同时披露其机架级系统Helios已获得微软、OpenAI、Meta、Oracle、HPE、TCS、Celestica、Nutanix以及美国能源部等多家企业与机构的采用。微软计划将该系统部署于Azure AI服务，并推出三款面向不同应用场景的计算实例。

微软Azure Helios实例细节

• Azure HDv2：面向CPU密集型负载，配备近500个EPYC核心、4TB内存、32TB NVMe存储、400Gb Azure Boost网络。
• Azure HXv2：针对Agentic AI工作负载，采用176核心3D V-Cache处理器，最高频率超过5GHz，提供50%更多缓存，支持2至4TB内存和800Gb InfiniBand。
• ND MI455X v7：搭载72块AMD Instinct MI455X GPU，专注于高密度AI计算。

ROCm 7.14 软件生态扩展

新版ROCm 7.14对PyTorch、TensorFlow、JAX、Hugging Face、vLLM、SGL、Deepspeed、ONNX、llm-d、OpenXLA、MLID、Llama Stack等主流框架提供原生支持，并实现Day-0兼容。Day-0支持意味着在新框架版本发布当天即可运行于ROCm平台，便于开发者快速获取最新AI能力。AMD强调其遵循开放硬件与软件标准，有助于降低系统集成复杂度，与NVIDIA的封闭生态形成差异化。

除微软外，OpenAI、Meta、Oracle、HPE、TCS、Celestica、Nutanix以及美国能源部也确认采用Helios方案或相关产品。

Helios作为AMD面向AI和HPC的机架级系统，基于开放标准设计，涵盖计算、网络与存储等组件，能够根据负载需求灵活搭配EPYC处理器与Instinct GPU，进一步降低客户部署门槛。