用GPU建资料中心太贵？ 英伟达：买越多、省越多！

IC设计大厂辉达(NVDA-US)执行长黄仁勋今(29)日在COMPUTEX举办主题演讲，内容围绕人工智能(AI)，除推出最新GH200超级芯片，也比较资料中心成本架构，直言以GPU建置的资料中心将远低于CPU，强调买越多、省越多(The more you buy, the more you save.)。

黄仁勋指出，尽管CPU过去几年运算速度不断提升，但进入AI时代后，以CPU为运算基础的时代已经结束，现在大型语言模型(LLM)需要更新的解决方案。

黄仁勋举例，假设建置资料中心预算为1000万美元，可以选择建置1座搭载960颗CPU、功耗达11GW的资料中心，抑或是选择建置1座有48颗GPU、功耗仅需3.2GW的资料中心，且LLM资料处理量是CPU的44倍。

黄仁勋也更换比较基准，若以处理同样资料量的大型语言模型(LLM)来看，可以选择斥资1000万美元，建置1座搭载960颗CPU、功耗达11GW的资料中心，抑或是选择只花费40万美元，建置1台需要2颗GPU、功耗仅需0.13GW的资料中心。

因此，黄仁勋也语带诙谐指出，GPU将为客户省好多钱，直言买越多、省越多，后续也在介绍AI时，透过语音输入指令，请AI帮忙创作歌曲、歌词等，更将现场变成大型卡拉OK包厢，邀请现场观众与他一起唱出AI的创作。

辉达此次在会中推出最新DGX GH200 AI超级计算机，透过搭载Grace Hopper超级芯片与NVLink Switch System，将协助客户生成式AI语言应用、推荐系统及资料分析工作负载，开发巨型的下一代模型。

来源：钜亨网