Supermicro 扩展人工智能和 GPU 机架规模解决方案

Supermicro支持AMD Instinct MI300系列加速器，从而扩展人工智能和GPU机架规模解决方案

由 AMD Instinct™ MI300X 加速器提供支持的全新8-GPU 系统现已推出，具备突破性的人工智能和HPC 性能，可用于大规模人工智能培训和LLM 部署

Supermicro, Inc.（纳斯达克股票代码：SMCI）是一家为人工智能、云技术、存储和5G/边缘提供全面IT 解决方案的制造商，宣布推出三款基于AMD 的全新H13 代 GPU 服务器产品，这些经过优化的服务器，具备先进性能且高效，并由全新的AMD Instinct MI300 系列加速器提供支持。Supermicro 强大的机架规模解决方案配置8-GPU 服务器和AMD Instinct MI300X OAM，是大型模型训练的理想选择。

现提供配备AMD Instinct MI300A 加速处理单元(APU) 加速器的新型2U 液冷和4U 风冷服务器，可提高数据中心效率，并为人工智能、LLM 和 HPC 领域快速增长的复杂需求提供动力。新系统包含四个用于可扩展应用程序的APU。Supermicro 可以为大规模环境提供完整的液冷机架，每个机架的FP64 性能高达1,728 TFlops。Supermicro 在全球拥有制造工厂，简化了新服务器的交付流程，以实现人工智能和HPC 的融合。

Supermicro 总裁兼首席执行官Charles Liang 表示："我们非常高兴能够利用最新一代AMD Instinct 加速器扩展我们用于人工智能培训的机架规模全面IT 解决方案，与前几代产品相比，性能提升高达3.4 倍。我们全球制造工厂每月可供应4,000 个液冷机架，因此可以凭借AMD Instinct MI300X 加速器或AMD Instinct MI300A APU 提供最新的H13 GPU 解决方案。我们的架构久经考验，能够为每个GPU 提供1:1 的400G 网络，这些GPU 专为大规模人工智能和超级计算集群设计，能够完全集成液冷解决方案，为客户提供兼备性能效率的竞争优势，并且易于部署。"

了解更多有关配备AMD 加速器的 Supermicro 服务器信息

LLM 优化的AS – 8125GS-TNMR2系统基于Supermicro 的构建块架构，是一种经验证的设计，可用于以风冷和液冷机架规模设计的高性能人工智能系统。平衡的系统设计将GPU 与 1:1 网络相关联，从而形成跨节点和机架的大型高带宽内存池，以适应当今最大的语言模型，参数高达数万亿，最大限度地提高并行计算并最大限度地减少训练时间和推理延迟。配备MI300X OAM 加速器的8U 系统借助AMD Infinity Fabric™Links 提供8-GPU 的原始加速能力，可在开放标准平台上可实现高达896GB/s 的峰值理论P2P I/O 带宽，且在单个系统中具有1.5TB 的 HBM3 GPU 内存，在业界遥遥领先，还支持原生稀疏矩阵，旨在节省功耗、降低计算周期并减少人工智能工作负载的内存使用。各服务器采用双插槽AMD EPYC™9004 系列处理器，最高可达256 核。在机架规模上，超过1000 个内核的CPU、24TB 的DDR5 内存、6.144TB 的 HBM3 内存以及9728 个计算单元可用于最复杂的人工智能环境。Supermicro 在 8U 配置方面拥有丰富经验，并使用OCP 加速器模块(OAM)，相较于定制设计，可更快将配置完整的服务器推向市场，从而降低成本和减少交付时间。

Supermicro 还推出了一款密度优化的2U 液冷服务器AS –2145GH-TNMR，以及一款4U 风冷服务器AS –4145GH-TNMR，每台服务器均配备4 个 AMD Instinct™MI300A 加速器。新服务器专为HPC 和人工智能应用设计，需要快速的CPU - GPU 通信。通过在单个芯片上结合高性能的AMD CPU、GPU 和HBM3 内存，APU 消除了冗余内存副本。各服务器均配备用于应用程序扩展的先进x86"Zen4"CPU 内核。此外，各服务器包括的HBM3 内存高达512GB。在一个由21 个 2U 系统组成的全机架(48U) 解决方案中，HBM3 可用内存达10TB 以上，还配备19,152 个计算单元。从HBM3 到 CPU 的内存带宽为5.3 TB/s。

这两个系统都具有支持400G 以太网的双AIOM 和网络扩展选项，旨在提升高性能计算空间、可扩展性和效率。2U 直接芯片液冷系统提供了出色的总体拥有成本(TCO)，在21 个2U 系统机架解决方案的基础上，每个机架产生61,780 瓦能量，而不是95,256 瓦风冷机架，节能35% 以上，并且与风冷系统相比，风扇数量减少70%。

AMD 执行副总裁兼数据中心解决方案事业部总经理Forrest Norrod 表示："AMD Instinct MI300 系列加速器在长期加速高性能计算应用和发展迅速的生成式人工智能需求方面都具有领先的性能。我们将继续与Supermicro 密切合作，以MI300 系列加速器为基础，利用Supermicro 在系统和数据中心设计的专业知识，推动领先的人工智能和HPC 全面解决方案上市。"

向Supermicro 和 AMD 专家了解更多信息。观看网络研讨会直播或点播。

欲了解更多信息，请访问：

Supermicro AMD 加速器网站

AS -8125GS-TNMR2 (8U w/ MI300x)

AS -2145GH-TNMR (2U LC w/ MI300A)

AS -4145GH-TNMR (4U AC w/ MI300A)

关于Super Micro Computer, Inc.

Supermicro（纳斯达克股票代码：SMCI）是应用优化整体IT 解决方案的全球领军企业。Supermicro成立于加州圣何塞并在该地运营，致力于为企业、云计算、人工智能和5G 电信/边缘IT 基础设施提供率先面市的创新。我们是服务器、人工智能、存储、物联网、交换机系统、软件和支持服务的整体IT 解决方案制造商。Supermicro 的主板、电源和机箱设计专业知识，更进一步推动了我们的研发和生产，为我们的全球客户提供了从云端到边缘的下一代创新技术。我们的产品均在公司内部（包括美国、亚洲和荷兰）完成设计和制造，通过全球运营实现规模和效益，从而优化总体拥有成本(TCO)，并能够（通过绿色计算）减少对环境的影响。获奖无数的Server Building Block Solutions® 通过我们灵活可重复使用的构建块，为客户提供了丰富的可选系统产品系列，用于优化其确切的工作负载和应用。这些构建块支持全系列外形规格、处理器、内存、GPU、存储、网络、电源和冷却解决方案（空调、自然空气冷却或液体冷却）。

稿源：美通社