假设 NVIDIA 手里只有 1000GB HBM。

如果每张 GPU 装 400GB，只够做 2.5 张卡，如果每张只装 200GB，就能做 5 张卡。

所以 NVIDIA 考虑降低单卡 HBM，主要还是HBM 太紧缺、太贵，供应跟不上 NVIDIA 的 GPU 出货速度。

下图展示了每颗 AI 加速器配多少 HBM 高带宽内存

AMD MI455X：432GB
NVIDIA Rubin：288GB
NVIDIA Rubin Ultra：原本想上更大的配置，但现在评估 192～288GB
Google Ironwood：192GB