据Wccftech报道,在2026年的Cadence Live大会上,NVIDIA首席执行官黄仁勋就AI产业未来发表演讲,强调NVIDIA系统虽然价格昂贵,但生成AI词元的成本却是全球最低。
黄仁勋指出,AI词元是处理语言的基本单位,类似于AI语言中的“字母”。生成词元的速度不仅取决于硬件性能,还需要软件的高效配合。他提到,单纯依赖硬件的“暴力运算”并非最佳方式,必须结合优化的软件堆叠,才能充分发挥硬件性能,生成更多词元。
黄仁勋表示:“要理解顶层软件堆叠、硬件嵌入的系统以及系统外的应用场景。只有成为一家全堆叠化的公司,才能解决这些复杂问题。”NVIDIA的CUDA生态系统正是多年技术积累的成果,使其硬件成为生成词元的首选方案。
尽管NVIDIA的Blackwell和即将推出的Rubin平台等系统造价高达数百万美元,但它们能够生成大量词元。从“每词元成本”来看,这些系统反而是全球最低的。此外,从能源效率角度分析,NVIDIA系统在每瓦生成词元数量(Token/W)方面也表现优异。
黄仁勋还提到,NVIDIA不仅是AI硬件的领导者,也是低成本词元的生产者。“我承认我们的系统价格昂贵,但生成的词元成本最低,并且性能还在不断提升。购买越多,节省越多。”
NVIDIA提出了一种新的AI总营运成本(TCO)评估指标,强调不仅要看系统的最大吞吐量,还要关注生成每个词元的成本与功耗。尽管面临AI代理时代竞争和供应链限制的挑战,NVIDIA凭借全堆叠化布局,依然在AI领域保持领先地位。