NVIDIA全新Hopper架构GPU 首度搭载HBM3存储器

NVIDIA於GTC 2022大会上发表Hopper H100系列GPU加速器，这款以美国科学家Grace Hopper命名的Hopper架构GPU拥有超过800亿个晶体管，采用台积电定制化4纳米制程制造，晶圆面积比上一代Ampere GA100 GPU使用的7纳米制程缩小不少。

根据The Next Platform报导，数据中心GPU更新的节奏差不多为2年，这是市场对这类复杂元件的接受程度。由於供应链问题导致半导体产能吃紧，加上AI用户对GPU运算的庞大需求，预计2022年第3季出货的NVIDIA H100 GPU，其需求将大於供应，产品定价将对NVIDIA十分有利。

此外，从Facebook母公司Meta Platforms打造的AI超级电脑预计年中完工判断，NVIDIA还会持续销售其Ampere架构A100 GPU加速器一段时间。但Facebook肯定会想改用Hopper GPU，即使NVIDIA不支持与其SXM界面不同的开放运算加速器模块(OAM)界面。

其他拥有云端运算能力的超大规模数据中心，如亚马逊(Amazon)、Google、微软(Microsoft)以及阿里巴巴、百度和腾讯等，将会是新Hopper GPU的优先客户。

NVIDIA加速运算资深主管Paresh Kharya表示，H100增加对FP8支持，可用於机器学习训练，大幅提升可建立的神经网络大小和吞吐量。而新的Tensor Core单元可根据工作负载在FP8和FP16格式之间自动切换。结合张量核心内的Transformer Engine以及FP8数据格式，这些Transformer模型的效能比Ampere A100提升6倍之多。

这些第四代张量核心针对BERT语言翻译模型和Megatron Turing 对话式AI模型调整，这些模型性又应用於SuperGLUE 语言理解排行榜、Alphafold2蛋白质结构预测、Segformer语义分割以及OpenAI CLIP建立自然语言影像。

此外，Hopper是第一个采用HBM3存储器的运算引擎，带宽达每秒3TB。Hopper GPU将支持PCI-Express 5.0以及速度快7倍的NVLink 4.0界面。

NVIDIA还创建1种在DGX服务器机箱之外的交换结构，这种Leaf／Spine拓朴的存储器区域网络，单一pod最多可连接32个节点上总共256个H100 GPU。Quantum-2 InfiniBand交换结构允许多个pod连结成1个平行集丛，可轻松扩展系统规模满足AI需求。

CEO黄仁勳表示，NVIDIA将使用这些技术打造新的Eos超级电脑，提供275 petaflops的运算效能，预计未来几个月内上线。

责任编辑：张兴民