8 月 9 日消息，NVIDIA发布了一款升级版的下一代 Grace Hopper 超级芯片平台，该平台采用了 HBM3e 内存技术，专为人工智能和高性能计算而设计。新款 GH200 Grace Hopper 超级芯片平台由 72 核的 Grace CPU 和 GH100 Hopper 计算 GPU 组成，但与初代不同的是，其使用了 HBM3e 内存，内存容量和带宽都有显著提高。

HBM3e 内存是一种新型的高带宽内存技术，可以在更小的空间内提供更高的数据传输速率。新款 GH200 Grace Hopper 超级芯片平台基于 72 核 Grace CPU，配备 480 GB ECC LPDDR5X 内存以及 GH100 计算 GPU，搭配 141 GB 的 HBM3e 内存，分为六个 24 GB 的堆栈，并使用了 6,144 位的内存接口。虽然NVIDIA实际安装了 144 GB 的内存，但只有 141 GB 是可用的。

目前的 GH200 Grace Hopper 超级芯片平台配备 96 GB HBM3 内存，带宽低于 4 TB / s。相比之下，升级版的内存容量增加了约 50%，带宽增加了 25% 以上，可达 5 TB / s。如此巨大的改进使新平台能够运行比初代版本更大的人工智能模型，并提供明显的性能改进（这对于训练尤其重要）。

据NVIDIA称，目前配备 HBM3 内存的 GH200 Grace Hopper 超级芯片平台已经在生产中，并将于下个月开始商业销售。 而配备 HBM3e 内存的 GH200 Grace Hopper 超级芯片平台现在正在样品测试中，预计将于 2024 年第二季度上市。

NVIDIA强调，新款 GH200 Grace Hopper 使用了与原版相同的 Grace CPU 和 GH100 GPU 芯片，因此公司无需推出任何新的版本或步进。原版 GH200 和升级版 GH200 将在市场上共存，这意味着后者将以更高的价格出售，毕竟其更先进的内存技术带来的更高性能。配备 HBM3e 内存的下一代 Grace Hopper 超级芯片平台完全兼容英伟达的 MGX 服务器规范，并且可以与现有的服务器设计直接兼容。