美光法说揭与NVIDIA特殊合作关系 开发低功耗存储器导入数据中心

人工智能（AI）服务器的存储器商机有多大？美光（Micron）、三星电子（Samsung Electronics）、SK海力士（SK Hynix）三大存储器厂先前法说会，陆续强调AI的存储器需求可期，直到6月28日美光最新财报发布，更进一步揭露美光与NVIDIA的特殊合作关系。

当前最热门的AI服务器之一采用NVIDIA GH200芯片，结合首款ARM架构处理器Grace CPU及AI芯片Hopper H100 GPU，其规格需要高带宽存储器（HBM）与DDR两种配置。而在美光日前最新法说会上，美光CEOSanjay Mehrotra强调美光替NVIDIA GH200特别开发低功耗存储器（LPDRAM）的夥伴关系。

Mehrotra提出的这个引人注目的例子是，NVIDIA的DGX GH200超级集群，展示了AI工作负载的存储器密集型程度，GH200使开发人员能够支持，具有144TB海量共享存储器空间的巨型模型，而其中大部分DRAM是由美光和NVIDIA之间的联合开发计划所实现。

该联合开发计划将美光在低功耗DRAM领域的领先地位，扩展到服务器级应用，与基于DDR的解决方案相比，显着降低数据中心功耗。

美光指出，该公司与NVIDIA之间的特殊合作夥伴关系，该产品是针对LPDRAM开发的，聚焦在适应数据中心的要求。

一般来说，LPDRAM之所以尚未在数据中心采用的原因有很多，包括此前的低功耗存储器并不具备数据中心客户所仰赖的DDR5和DDR4产品的强大功能、可靠性、可用性和可维护性，有监于此，要在数据中心导入LPDRAM，要适应这项技术，的确有许多特殊开发的挑战。

美光与NVIDIA共同开发的这种独特的差异化产品，本身并不是标准的LPDRAM，而美光的支持，确实显着降低了功耗，这是数据中心的一大挑战，透过此类产品将低功耗DRAM引入数据中心，可说是美光在这领域引领行业的一大步。

至于在HBM方面，在生成式AI需求推动下，用于高性能运算的HBM在2023年的需求非常强劲，美光也正在与客户密切合作，并已开始对其领先业界的HBM3产品，向客户送样，客户反应强烈。

美光表示，在其1-beta(1β) 技术、TSV 和其他创新技术的支持下，公司的HBM3产品可提供比竞争对手更高的带宽，并在性能和功耗方面树立新基准，进而实现差异化的先进封装解决方案。美光预计将从2024年初开始量产这款HBM3，并在2024会计年度间，取得可观的营收贡献。