据路透社报道，非营利机构MLCommons发布的最新AI系统性能报告显示，英伟达（NVIDIA）新一代Blackwell GPU芯片在AI模型训练速度上，较上一代Hopper GPU提升了两倍以上。

报告显示，在对Meta旗下4050亿参数的“Llama 3.1”等AI模型进行训练时，2496颗Blackwell芯片仅用27分钟就完成了任务。而Hopper芯片则需要三倍以上的数量，才能在略快的时间内完成相同的训练任务。

CoreWeave产品负责人Chetan Kapoor在与英伟达合作的性能测试中指出，AI行业正逐渐转向将少量芯片连接成子系统，用于不同的AI训练任务，而非像过去那样构建拥有10万颗甚至更多同质芯片的大型训练集群。他表示，这种方法能够显著加快或缩短超大规模AI模型的训练时间。

据Barron’s报道，英伟达加速运算部门负责人Ian Buck在美银全球科技大会上提到，AI推理（Inference）需求正在激增，主要得益于自动推理模型的广泛应用。他强调，推理功能为AI应用增添了巨大的价值。