英特尔AI芯片为何从XPU变成了GPU？

据路透社消息，当地时间周一(5月23日)，英特尔(Intel)就其计划于2025年推出的一款人工智能(AI)运算芯片提供了更多细节。
英特尔在德国举行的一个超级计算会议上表示，即将推出的“Falcon Shores” (猎鹰海岸)芯片将拥有288GB的HBM3内存和 9.8TB/s 的总内存吞吐量，正如预期的那样，它将支持较小的数据类型，如 FP8 和 BF16。这些细节也是英特尔实施战略转型，抢占人工智能处理器市场，以追赶英伟达和AMD的首批披露内容。

Falcon Shores是在Rialto Ridge 取消后的替代品，也是 Ponte Vecchio 的指定后续产品。根据早前报导，Falcon Shores 将会是一款混合型态的XPU产品，因为在这个封装内将会整合 GPU、CPU 与 Memory 在内。然而在周一的会上，英特尔确定 Falcon Shores 将不再是 XPU，而回归到单纯的 GPU 而已。

Falcon Shores GPU 将会是英特尔Xeon Max GPU 系列产品中的一环，采用标准以太网交换，很像英特尔专注于 AI 的 Gaudi 架构。此外，Falcon Shores GPU 将会如同 Ponte Vecchio 般采用Chiplet模块式设计，允许针对单一 GPU 进行程序处理。这个基础性架构非常灵活，可以随着时间的推移集成Intel和客户的新IP(包括CPU内核和其它芯粒)，使用Intel IDM 2.0模式制造。
该设备的基本草图还包括一个通用的基于 GPU 的编程接口 OneAPI，它将允许与其他 CPU 和架构广泛兼容。英特尔还将 CXL (Compute Express Link)支持列为一个关键的差异化因素，这让GPU、AI 芯片和其他加速器可以轻松访问大型存储和内存池。
01
为何从XPU变成了GPU?

下面我们来分析一下英特尔从 Falcon Shores 中抽出 CPU 内核背后的深层次原因。

英特尔表示，当前计算环境还不成熟，要实现将 CPU 和 GPU 内核混合到同一个 Falcon Shores 封装中的最初目标还为时过早。如上图所示，随着生成 AI 和 LLM 进入 HPC 空间，不同处理器的工作负载在改变，CPU 和 GPU 内核的最佳组合随着时间的推移而发生变化。因此也引发了英特尔关于如何构建下一代超级计算架构思维的转变，他们认为现在还不是将客户锁定在特定 CPU 和 GPU 比例的时候。
此外，从设计上讲，处于前沿的超级计算机是针对特定任务的高度专业化设计，针对架构的软件调整只是运行超级计算机的常规操作。这些因素意味着 CPU/GPU 比率并不是英特尔从设计中移除 CPU 内核的唯一原因。
英特尔还指出，Falcon Shores允许其客户使用各种不同的 CPU，逻辑上包括 AMD 的 x86 和 Nvidia 的 Arm 芯片，以及他们的 GPU 设计，因此不会限制客户只选择英特尔的 x86 内核，CPU 和 GPU 的解耦将为具有不同工作负载的客户提供更多选择。
英特尔表示，使用CXL接口的目的是让其客户能够利用可组合的架构，在他们的定制设计中将各种 CPU/GPU 比率结合在一起。然而，CXL 接口仅在芯片组合之间提供 64 GB/s 的吞吐量，而像 Nvidia 的 Grace Hopper 这样的定制 CPU+GPU 设计可以在 CPU 和 GPU 之间提供高达 1 TB/s 的内存吞吐量。对于许多类型的工作负载——尤其是需要内存带宽的 AI 工作负载，这比 CXL 实现具有性能和效率优势。02
Ponte Vechhio 还要再多坚持两年

一直到 2025 年的 Falcon Shores 出来前，Ponte Vechhio 仍是英特尔AI及 HPC 市场的最佳 GPU 方案。它将不得不与更先进的 HPC 架构竞争，例如 Nvidia 的 Grace Superchips 和 AMD 即将推出的CDNA3/Zen4 混合体(exascale APU) Instinct MI300，它们都会在 2023年推出。

英特尔数据中心 GPU Max 1550 (Ponte Vecchio) 与 NVIDIA H100 PCIe (Hopper)对比
此次更动 Falcon Shores 的原因主要是英特尔目前规划拥有 2 条产品线，而 Falcon Shores 的推出将大幅度提升产品的灵活性。至于 HPC 用的 XPU 部分仍在持续进行，但它不会是 Falcon Shores 最初发布的一部分。

原本用于虚拟、云加速市场的是Arcitic Sond M，按照之前的规划，它们应该在今年被Rialto Bridge和Lancaster Sound系列新品取代。但最新的路线图中，这两款产品的开发被终止了，转而直接开发下一代的产品，也就是Falcon Shores。
另一方面，AI 部分用的 Habana Gaudi 在进入第 3 代以后，将不会有任何更新，而后续也会被 Falcon Shores 替代。英特尔称，他们“计划整合 Habana 和 AXG 产品 (GPU)路线图”，但透露的整合细节很少。
Gaudi 计算架构与标准 GPU 有很大不同，因此其计算架构似乎无法完全集成到 GPU 中。因此，英特尔可以将Gaudi设计的较小部分(例如其网络接口或其他 IP 块)整合到其 GPU 中。
据悉，AMD的Instinct MI300和英伟达的 Grace Hopper均采用混合式CPU+GPU设计，这种做法的优势是可以降低成本并节省电力，但会将客户产品设计与供应商方案配置高度绑定。
与他们相比，英特尔的纯GPU+灵活搭配CPU方案对于某些工作负载来说很好，但它可能无法在某些应用程序的功率、成本或性能方面与对手竞争。
为了帮助行业上下游企业更好地把握AIoT市场发展商机，全球领先的专业电子机构媒体AspenCore将携手深圳市新一代信息通信产业集群联合主办【2023国际AIoT生态发展大会】，将于6月8日在深圳南山科兴科学园国际会议中心盛大举行!
预登记通道现已开启，长按二维码立即报名参会!
作者：刘于苇 电子工程专辑主分析师EET电子工程专辑原创

作者原创文章
与10代酷睿一模一样，宝德暴芯是何方神圣？
微软否认与AMD合作开发AI芯片“雅典娜”
在IPO之前通知客户调整IP授权费，Arm为哪般？
倪光南：RISC-V已成为中国CPU领域最受欢迎的架构

END

点击阅读原文，报名参加活动

新闻来源：电子工程专辑，文中所述为作者独立观点，不代表icspec立场。更多精彩资讯请下载icspec App。如对本稿件有异议，请联系微信客服specltkj。