当前位置：首页 > news >正文

64位精度HPC计算引擎的十年博弈：AMD如何以性价比颠覆NVIDIA霸权？

news 来源：原创 2025/9/14 6:34:08

若期望一款中央处理器（CPU）具备图形处理器（GPU）级别的浮点运算性能，根据CPU发展路线图，大约需等待六年左右。这显然是一段漫长的等待期，这也解释了为何十五年前众多高性能计算（HPC）中心纷纷从CPU转向GPU。不管这一转变是有意还是无意，都为当下GPU计算引擎在人工智能领域的大规模应用奠定了基础。

从多方面来看，X86架构的CPU已演变为具有通用串行计算能力且带有一定并行计算倾向的处理器。它融合了整数运算与向量运算能力，并且，至少在部分英特尔和AMD的CPU中，还集成了诸如加密、哈希运算等特定功能的加速器，以及矩阵运算引擎（至少过去三代至强处理器是如此，即我们现在所说的至强4、至强5和至强6 ）。业界曾预期AMD会在某个阶段将矩阵引擎引入霄龙处理器，但截至目前，AMD尚未实施。Arm架构CPU的设计者或许最终也会跟进。

在一定程度上，GPU是一种大规模并行的通用浮点运算引擎，偶尔也具备整数运算能力。如今，它已成为人工智能训练和某些HPC工作负载的首选引擎。这主要得益于其高带宽和不断降低的浮点精度。较低的精度使得人工智能训练所依赖的统计算法能够使用分辨率越来越低的数据，从而提升实际运算性能。然而，正如我们过去所指出的，许多计算任务实际上需要更高而非更低的精度，以提高模拟和模型结果的准确性。虽然人工智能能让我们在数据模糊的情况下仍能识别出“猫”，但有许多应用确实需要双精度（FP64）处理。若条件允许，我们甚至可能探讨128位或256位的FP128或FP256处理（这听起来或许有些超乎想象）。
在这里插入图片描述
长期以来，我们一直认为GPU加速器对低精度运算的关注程度超出了许多HPC中心的期望，而英伟达最新几代GPU更是印证了这一点。GPU价格上涨速度快于FP64性能提升速度，因为“Hopper”H100和H200，以及“Blackwell”B100和B200加速器，都致力于将数据分辨率和计算精度降低至FP8，再到FP4格式，以提高人工智能训练和推理的吞吐量。英伟达一直谨慎地在其GPU计算引擎中保留向量和张量单元，并维持一定的FP64和FP32性能，但FP64性能的性价比却不尽人意。

近期，Elad Raz在《The Next Platform》上发表的《妥协的隐性成本：为何高性能计算仍需要高精度》一文，再次提醒我们HPC模拟和建模对高精度浮点运算的需求。Raz是NextSilicon公司的首席执行官，该公司推出了以HPC为核心的Maverick系列数学加速器。2024年10月，我们曾报道过NextSilicon的Maverick - 1和Maverick - 2可重构数据流引擎。目前，我们虽尚未获取Maverick芯片的详细参数，但掌握了英伟达和AMD GPU，以及英特尔和AMD CPU的FP64性能数据，这些产品在各自的计算细分市场中占据主导地位。

我们极为重视FP64性能，期望那些从事全球最复杂模拟计算的用户，如进行天气和气候建模、材料模拟、湍流气流模拟以及其他数十种绝对依赖FP64浮点运算的关键HPC工作负载的用户，能够从所购买的计算引擎中获得高价值回报。

在深入探讨我们整理和绘制的核心计算引擎向量和张量单元数据之前，我们有以下几点观察。

第一，过去我们常将矩阵运算视为一个通用术语，而实际上矩阵是一种特殊的低维二维张量，向量则是更低维的一维张量。因此，我们在此对比的是计算引擎中向量单元和张量单元独特且不同的性能。并非所有代码都已移植到张量单元，部分代码仍需在向量单元上运行。

第二，大致而言，在当前生成式人工智能革命阶段，英伟达设计的人工智能训练和推理GPU也具备一定的HPC处理能力，而AMD制造的HPC GPU也能进行一些人工智能训练和推理。

2012年至2020年间，英伟达GPU向量单元的FP64理论峰值性能提升了8.3倍（即2012年的“开普勒”K20和2020年的“安培”A100 ）。配备“Hopper”H100和H200（两者GPU相同，仅内存带宽不同）后，向量的理论峰值性能提升了3.5倍，达到33.5万亿次浮点运算。在非稀疏矩阵（即密集矩阵）情况下，英伟达GPU张量核心的性能是A100和H100的两倍，分别为19.5万亿次和67万亿次浮点运算。

去年发布并现已量产的“Blackwell”B100，其向量FP64峰值性能仅为30万亿次浮点运算，较HopperGPU的FP64峰值性能下降了10.5%。在张量核心上，FP64性能同样为30千万亿次浮点运算，较HopperGPU张量核心的FP64峰值性能下降了55.2%。当然，BlackwellB200的向量和张量单元的FP64性能均为40万亿次浮点运算，与“Grace”CG100 CPU搭配的GB200，英伟达将其向量和张量的FP64峰值性能提升至45万亿次浮点运算。关键在于，Blackwell系列中，张量FP64性能并非向量FP64的两倍，而且在很多情况下，采用Blackwell系列的客户需花费更多资金，却只能获得比HopperGPU更低的FP64运算能力。

对于需要最高精度计算的HPC工作负载而言，若能获取“二手H100”，这似乎是一个颇具性价比的选择。

近年来GPU市场的积极变化在于，市场中出现了两个有力的供应商，AMD进入该领域并展现出强大的竞争力。自2020年底推出“Arcturus”MI100，以及2021年11月推出“Aldebaran”MI250X后，这种竞争力愈发显著。在橡树岭国家实验室“前沿”超级计算机中使用的MI250X，其向量单元的FP64峰值为47.9万亿次浮点运算，张量单元的峰值为95.7万亿次浮点运算。MI100在向量性能上比Hopper H100/H200高出19%，但没有张量单元。MI250X同时具备向量和张量单元，在FP64峰值运算能力上比Hopper GPU高出近43%。MI300X的向量运算能力达到81.7万亿次浮点运算，张量运算能力达到163.4万亿次浮点运算，相比之下，GB200中使用的Blackwell GPU，其向量和张量的最佳性能仅为45万亿次浮点运算。这意味着MI300X在FP64向量性能上提升了1.8倍，在FP64张量性能上提升了3.6倍。

AMD的产品价格也更具优势。我们预估，GB200中使用的单个BlackwellB200成本约为4万美元，而MI300X仅需约2.25万美元。对比MI300X与B100、B200以及搭配Grace的B200，AMD在FP64运算方面的性价比优势在3.2倍至7.3倍之间。

英伟达拥有庞大的用于HPC和人工智能的CUDA软件堆栈，在低精度浮点运算和运行基础模型的其他技术方面具有优势。但我们在此讨论的是HPC工作负载。毕竟，我们既是“下一个人工智能平台”，也是“下一个高性能计算平台”。

出于研究目的，我们绘制了英特尔至强和AMD霄龙处理器随时间变化的FP64性能图，并计算了这些设备的性价比，将它们与2012年以来英伟达和AMD的GPU进行对比。

需要注意的是，以下图表展示的是向量和张量单元FP64数学运算的理论峰值性能，并非考虑了特定计算引擎架构特性导致无法达到峰值的最高可实现性能，更不是一套HPC应用程序的最高持续性能。我们使用的是基础时钟速度，而非超频速度。

我们旨在描绘FP64计算市场的格局，以及经济效益如何随时间变化。这为NextSilicon的Maverick - 2等新设备，以及上述常见厂商的下一代GPU和CPU，乃至未来可能出现的自主研发的Arm或RISC - V CPU奠定了发展基础。

这是针对当时最高配置、核心数最多的产品，且不考虑英特尔几次使用非标准至强AP封装进行双路插槽的情况。

有些信息在普通图表中一目了然，有些则需要对数图表才能更清晰地展现差异。所以我们制作了两种图表。从图表中可以看出：在图表底部，英特尔和AMD CPU的性能表现几乎难以察觉，但能够清晰看到英伟达如何降低其GPU的张量FP64性能，以及AMD GPU如何实现超越。（图表时间跨度为2012年1月至2025年5月，X轴上的月度数据难以看清，但这并不影响整体分析。）
在这里插入图片描述

若切换到对数视图，会发现一些有趣的现象：AMD GPU直到MI250X才拥有张量单元。在此之前，英特尔至强和AMD霄龙CPU在向量FP64吞吐量上，仅比GPU慢约三倍。2020年底，英伟达和AMD大幅提升了GPU向量性能，英伟达还增加了张量核心，CPU和GPU在FP64性能上的差距就此显著拉开。
在这里插入图片描述

另一个值得关注的点是，2016年AMD基于“Vega”架构推出MI25，英特尔推出“Broadwell”至强E5 - 2699 v4 CPU时，它们的FP64性能相同。这更多反映的是Vega架构的情况，而非Broadwell架构。这也表明，过去几年AMD在GPU领域取得了巨大进步。还能看到，“那不勒斯”霄龙6001处理器的性能远超MI25，同期推出的“至强Haswell”处理器也是如此。

这是CPU和GPU性能唯一一次出现重叠的情况，并且可以看到AMD在GPU的FP64吞吐量上迅速赶上英伟达，并持续保持领先。此外，从对数图中可以看出，在CPU的FP64向量吞吐量方面，AMD通常也持续领先于英特尔。

性能固然重要，成本也是关键因素。那么这些设备在FP64计算的性价比方面表现如何呢？

一个显著的现象是，英特尔在性价比提升方面进展迅速，这无疑受到了GPU计算的影响，GPU计算的性价比更高。英特尔的性价比曲线比英伟达的曲线陡峭得多，部分原因是英伟达在架构选择上减少了FP64性能的提升，而AMD和英特尔则持续提升。英特尔还大幅削减了“ Granite Rapids”至强6处理器的价格，使其与AMD都灵Zen 5核心处理器价格更接近，但在FP64向量计算方面，AMD在CPU领域仍比英特尔提供了更高的性价比。
（注：我们未考虑英特尔过去三代至强处理器中的AMX张量单元。目前尚不清楚是否有人将HPC功能卸载到这些张量单元上，但从技术角度而言，这是可行的。）
在这里插入图片描述

切换到对数刻度能更直观地展示英伟达和AMD在GPU FP64计算方面的竞争地位：假设我们的定价准确，AMD在GPU领域显然是性价比的领先者。
在这里插入图片描述

以2022年的英伟达H100为基准，其向量每万亿次浮点运算成本为582美元，张量为291美元。AMD MI250X GPU向量每万亿次浮点运算成本为209美元，张量为104美元。MI300X的GPU价格翻了一倍多，约为2.25万美元，但FP64性能仅提升了1.7倍，所以向量每万亿次浮点运算成本为275美元，张量为138美元。英伟达H200价格比性能相同的H100更高，B100价格更高，峰值性能却更低，尤其是在FP64张量单元上。所以B100的向量或张量单元每万亿次浮点运算成本高达1000美元。B200提升了一些FP64运算能力（提升33%，达到40万亿次浮点运算），但价格约为3.5万美元，向量或张量每万亿次浮点运算成本为875美元。GB200的Blackwell在FP64精度下可达45万亿次浮点运算，价格4万美元，每万亿次浮点运算成本为889美元。

AMD的MI300X有望在HPC领域取得显著的销售成绩，其市场潜力或许超乎想象。这也使得我们推测，其产量可能难以满足众多潜在需求。

同样出于研究兴趣，拥有128个核心的 Granite Rapids至强6 6980P，在进行FP64运算时，向量性能为8.2万亿次浮点运算，每万亿次浮点运算成本为1521美元（几周前降价前为2173美元）。运行频率为2.7GHz、拥有128个核心的AMD霄龙9755，FP64运算能力略超11万亿次浮点运算，每万亿次浮点运算成本为1174美元。这与2018年AMD GPU和2021年英伟达GPU向量单元的每万亿次浮点运算成本相当。（以上内容来源于nextplatform）

赋创(EMPOWER X)，作为高性能计算领域的积极探索者，始终致力于技术创新的前沿，密切关注并吸收最新的科技进展。我们专注于提供高效且可靠的计算解决方案，旨在满足多样化的需求。
在这里插入图片描述
想了解更多有关HPC高性能服务器相关的信息，不管是技术问题还是应用规划，欢迎随时联系我们，期待能为您提供有价值的见解与支持。

相关文章：