数据中心CPU分身乏术 英特尔力推IPU成未来利器

回顾历史，英特尔所打造的x86通用运算平台，推动数据中心架构的变革，是继1960年代IBM System／360大型电脑的问世，乃至1980年代RISC／Unix服务器的崛起以后，最重要的发展。时至今日，数据中心系统架构仍在不断变化当中。虽说CPU效能确实持续上升，但加入成本考量以后，可以发现的问题是，CPU使用效益并没有成比例增长。这是因为晶体管尺寸如今已逐渐逼近物理极限，若要想追求下一阶段的技术突破，所需资源投入相当惊人。

CPU负荷过重　英特尔提IPU当解方

x86或其他任何一种CPU架构的核心，已有负荷过重的问题，除了重要任务以外，许多其他工作显然已无余力负担，包括网络与储存驱动程序、虚拟机器监视器(hypervisor)等虚拟层的运行工作，乃至于为了在数据中心内或在运行分散式应用的各服务器节点之间，以数据压缩与加密技术，加速与保护数据传输的工作等。这些最初都是通用x86平台产生的工作，由本应是PCIe卡或数据中心网络上外部应用程序的部分提取而出。

简单来说，作为服务器核心所在的通用CPU，若再继续负责管理从网络、储存虚拟化、加密与其他主要在软件中执行的安全工作等数据中心任务，并不符合成本效益。根据NVIDIA估计，在服务器当中，有超过3分之1的CPU的工作精力，都被浪费在这些基础建设工作负载上。因此，如何卸载(offload)CPU的工作改由其他硬件分担，让CPU得以专注在诸如云端数据中心的租户工作等更有价值的任务上，成为值得投注心力的主题，这便是数据处理器(DPU)兴起的最大理由所在。

作为全球CPU龙头，英特尔对上述议题的回应，则是IPU硬件的研发以及软件环境的打造，也算是变相承认若单单只使用CPU，并不敷现代数据中心庞大工作需求的现实。虽然名称不同，但IPU与DPU被看作是同一类产品，都是以分割数据中心基础建设与应用层为目标。英特尔转向IPU的发展，始自嵌入式回路(bump-in-the-wire)加速技术，因为利用的是FPGA，无须修改的一般性的数据转换，可以被放进可程序化逻辑中，不必先透过高端程序语言编码后，再由CPU来运行，能够提升工作执行速度。

不久之后，又发展出拥有网络与储存所有类型加速功能的智能网络界面卡(SmartNIC)，让原本可能由服务器CPU与操作系统共同承担的例行程序、演算法与通信协定等工作，改由服务器网络界面卡负责。持续演进的SmartNIC，如今已有能力为虚拟机器监视器，运行完整的Open vSwitch虚拟交换功能。然而由于SmartNIC缺少通用运算核心，无法负责许多软件定义功能的运作。

随着IPU的出现，这种卸载CPU工作的运作模式，又上升一个层次。IPU拥有通用核心与完整的操作系统，从某种意义上来说，可视为一种附属服务器，即便是复杂的网络与运算，也能放入服务器网络控制器，并自成一个系统，透过原生封包处理引擎，将完整虚拟机器监视器与虚拟交换器、虚拟网络与储存装置存取、数据压缩与加密、乃至其他无数种的例行程序等的运行工作，带出服务器与转换设备并负责执行。

在IPU的协助之下，服务器的角色即回归本职，即运作操作系统与应用程序。未来，服务器甚至有可能不需要运行整个操作系统，将CPU负责执行的工作负载，与IPU负责执行的整个控制层(control plane)堆叠之间，进行完全隔离。

CPU-IPU混合架构还有一个原先可能意想不到的好处，就是云端的基础建设控制若都能由IPU来操作，并将云端上给租户使用的资源隔离在CPU当中，会有助于云端多租户服务安全性的提升。

综观英特尔近几年来的相关产品发展轨迹，大致可归结为2018～2020年只存在SmartNIC(以Creek为名)、2021年加入以FPGA为基础的IPU(以Spring Canyon为名)、2022～2023年以后再加入以特殊应用集成电路(ASIC)为基础的IPU(以Mount为名)。在2022年Intel Vision活动上，英特尔发表到持续到2026年为止的IPU产品蓝图，从中可见以2年为时间间隔的产品换代节奏。

5年蓝图发布　英特尔重视开源开发

英特尔首款ASIC IPU Mount Evans是与Google Cloud共同开发的成果，使用16颗ARM Neoverse N1核心，拥有200Gb／s以太网络连线速度与加速引擎，满足非挥发性存储器通讯协定(NVMe)、区域网络(LAN)、线上直接存储器存取(RDMA)、加密与其他安全工作负载的需求，与同属第二代IPU产品的FPGA IPU Oak Springs Canyon一样，皆已在2022年开始出货给Google等客户。

以支持400Gb／s以太网络界面为目标的下一代Hot Springs Canyon FPGA IPU与Mount Morgan ASIC IPU，目前正在开发当中，预定于2023～2024年问世。至于2025～2026年的第4代FPGA/ASIC IPU，则以800Gb/s为目标。

除了硬件之外，在打造便利的软件环境方面，也有基础建设程序设计师开发套件(IPDK)、数据层开发套件(DPDK)、储存效能开发套件(SPDK)共3样工具提供使用，皆属开源性质，因此推广与演进速度很快。其中，IPDK被英特尔认为是扩大旗下IPU业务的关键所在：网络与边缘事业群副总、以太网络产品部门总经理Patricia Kummrow表示，毕竟不是所有客户都拥有专属的软件团队。举例来说，即便Mount Evans像一把瑞士刀一般本身拥有多种功能，但唯有提供开发工具，才能帮助客户将硬件的可程序化特性发挥到最大。

由于IPDK是个开源专案，所以包括Mount Evans首名客户Google在内的其他企业，对于英特尔IPU蓝图背后的软件发展方向，都具有影响力。IPDK协助撰写出来的程序码，不仅是英特尔产品，甚至连其他业者以FPGA或ASIC为基础的IPU/DPU、乃至可程序化的交换器设备或CPU都适用。

英特尔观察到，不仅云端与超大规模服务商，其他客户对于IPU的兴趣也相当浓厚。Kummrow表示，从数据中心乃至边缘应用、从多租户共享乃至裸机(bare metal)基础建设，IPU都有其适用性。IPU有能力以许多不同方式，协助搭建数据中心平台；这种借助IPU之力才能达成的平台等级的分散化趋势，未来也将持续下去。

Kummrow归结出推进英特尔IPU发展的四大重要动力来源。第一为IPU最初的使用案例，即网络工作负载的卸载，第二为阶层式储存(tiered storage)与无硬盘储存，第三为安全性：不仅只有数据中心对安全性的需求正在加大，相信边缘应用也会如此。第四为非技术性因素，即成本考量：据估计，透过将网络、储存与安全保护等工作从CPU卸载至IPU，客户能够省下30~40%的服务器基础建设支出。

市场竞争激烈

在CEOPat Gelsinger带领下，英特尔力图在数据中心市场击败超微(AMD)与NVIDIA等重要竞争对手，主要策略就是针对不同种类的需求，推出涵盖范围广泛的芯片产品组合。除了CPU或GPU等耳熟能详的主力产品之外，IPU也是其中重要的一块拼图。

早在英特尔IPU问世之前，其他业者如迈威尔(Marvell)、NVIDIA、以及后来并入超微的赛灵思(Xilinx)，就已投入开发针对数据中心CPU或GPU基础建设工作卸载需求的类似产品。举例来说，NVIDIA在2020年GTC大会上推出BlueField新系列DPU，从产品蓝图中可知，与英特尔同样以2年为更新换代的时间间隔，包含2020年200Gb／s的BlueField-2、2022年400Gb／s的BlueField-3以及2024年800Gb／s的BlueField-4。另外，继赛灵思以后，超微再于2022年5月宣布完成网络芯片新创业者Pensando Systems收购案，将Pensando已获得微软(Microsoft)与甲骨文(Oracle)数据中心部署的高效能DPU纳入囊中。

竞争对手不仅限于上述硬件专业供应商而已。亚马逊(Amazon) AWS的Nitro系列SmartNIC，采用自家设计的ARM架构系统单芯片(SoC)，更新过数代，已发展成类似IPU与DPU的装置，支持亚马逊AWS虚拟机器监视器的运作，一方面针对基础建设繁杂的工作进行安全管理，一方面也为数以千计的客户，提供更多对服务器CPU与存储器功能的控制。可以说，随着相关领域受到愈来愈多的市场瞩目，强大的对手也逐渐多了起来。

期望在激烈竞争中脱颖而出的英特尔，可以说主要采取的是在灵活性与效能之间取得平衡的策略：FPGA的优点，便在于可以改编，提升执行不同任务时的效率，或添加功能；相对的，不需要这种灵活性的客户，就可以选择ASIC IPU，能得到更大程度上优化过的效能与功耗表现。