英特尔IPU首席技术官GuidoAppenzenller：分担云数据中心基础设施任务

作者 |心命

编辑 |沙漠之影

Core stuff 8 月 26 日报道，继上周英特尔推出一系列新的 IPU 产品后，英特尔数据平台事业部首席技术官 Guido Appenzenller 接受了 Core stuff 等媒体的采访，并概述了英特尔的IPU 技术和战略。阅读更多。

近年来，随着巨头纷纷入市，数据处理芯片DPU逐渐走红。从功能上看，IPU与这些DPU没有本质区别，只是命名方式不同。

但与业内其他 DPU 不同，英特尔 IPU 不执行特定数据类型处理或卸载 AI 工作负载等任务，而是专注于为基础架构管理和虚拟化卸载任务。

英特尔 IPU 为何诞生？它与传统的 SmartNIC 有何不同？ IPU架构的核心优势是什么？专用ASIC版和FPGA版IPU适用于哪些应用场景？交流过程中，Guido一一回答了这些问题。

Guido 告诉核心flash元件怎么还没有ai文件，IPU 不限于特定的 CPU，即它可以与任何 CPU 一起工作。他还提到，在大多数情况下，IPU 对云服务提供商非常有吸引力，无论是从收入层面还是从财务角度来看。

一、共享云数据中心基础设施任务，让CPU全力以赴服务云服务租户

IPU，全称Infrastructure Processing Unit（基础设施处理单元），是一种可编程的网络设备。目前主要的应用场景是大型云服务商。

在典型的企业数据中心中，CPU 负责一切。但是在云上，要运行的任务不仅仅是业务程序，还有基础设施的配套程序。

IPU 所做的是将 CPU 替换为运行基础架构软件的任务，让服务器 CPU 能够更好地专注于为云服务租户提供更高性能价值的任务。

Guido Appenzenller 举了一个图解的例子，传统的数据中心服务器架构就像一个人的家，你可以轻松地从客厅走到厨房或餐厅。

云数据中心更像酒店，客房、餐厅和厨房分布在不同的区域，这些区域之间会有很多门或走廊隔开，您甚至需要出示您的徽章才能进入不同的区域。

同样，云数据中心正在朝着将租户责任与云服务提供商软件分离的方向发展，前者在 CPU 上运行，后者在 IPU 上运行。

具体来说，IPU主要处理网络虚拟化、存储虚拟化、网络存储管理、安全等基础设施功能。它可以安全地加速数据中心的基础设施功能，并使系统级资源管理更加智能。

此前，传统智能网卡SmartNIC主要用于网络和存储基础设施的安全加速，但仍由CPU控制、管理和编程，多用于通信服务等场景。

p>

IPU 是 SmartNIC 的演进，内置 CPU 内核，不仅可以安全地加速任务，还可以可编程承担控制和管理任务。换句话说，借助 IPU，云或通信服务提供商可以管理系统级基础架构资源的控制点，以最大限度地减少资源的保留或过度使用。

在 Guido 看来，设计出色的 IPU 面临许多挑战，其中最困难的部分是获得加速器和管道。因为它们完成了大部分工作，所以它们确保了超高性能和超低延迟，尤其是对于大型云提供商而言。

他认为IPU适合任何拥有类云数据中心的客户，除了大型云服务商，未来有望扩展到更小的云服务商和企业数据中心。此外，他还看到了电信公司IPU加速的场景。

二、Intel IPU架构的三大核心优势

Guido 详细解释了英特尔 IPU 架构的三大优势：

首先flash元件怎么还没有ai文件，IPU作为服务器的控制平面，负责运行云服务商的软件，相当于腾出整个CPU来为租户服务。更好地隔离这些功能将大大提高系统的安全性。

其次，IPU可以优化基础设施功能，进一步提高效率。如下图，Facebook 研究数据显示，微服务通信开销可以消耗 31% 到 83% 的 CPU 性能。

可以看到，在第一列web应用中，83%的服务器CPU周期用于开销，包括传输、压缩、解压、加密等功能。这些开销可以从CPU转移到议会联盟。

IPU 具有一些优化的存储和网络管理加速功能，而 CPU 可以专注于处理基础设施任务后为云服务提供商带来更大收益的任务。显着提高性能和能源效率。

最后，IPU 可以管理存储流量、减少延迟，并使云数据中心能够实施全面的无盘服务器架构，以有效利用存储容量。

由于难以预测每个租户的存储使用情况，在传统的企业数据中心架构中，每台服务器通常配备一组磁盘驱动器和固态磁盘，以应对峰值存储负载。

使用IPU后，客户可以采用全面的无盘架构，所有存储资源由中央存储服务提供。管理中央存储服务显然比管理数据中心数十万台服务器的存储资源容易得多。

当客户在该服务器上启动工作负载时，云服务提供商会在存储服务上创建一个虚拟卷。通过管理网络，云服务提供商告诉 IPU 基于此虚拟卷创建新的 NVMe SSD。

由于此虚拟 NVMe SSD 看起来像 PCIe 总线的常规 SSD，因此此操作将支持大多数操作系统和管理程序开箱即用。这允许客户从此 SSD 启动。

所有网络流量都来自这些磁盘。 IPU 非常聪明的地方在于，存储服务器和服务器上的工作负载之间的实际存储流量是在高速路径上，这意味着 IPU 或 CPU 上不涉及 CPU 内核。

IPU 具有用于存储流量的固定管道。在固定管道中，从存储服务到服务器的数据包不经过任何处理器处理，因此延迟和抖动极低，性能极高。

从 CPS 的角度来看，它就像拥有一个本地磁盘，但它实际上来自共享存储服务。这可以帮助云服务提供商从直连存储迁移到完全无盘架构。

三、解读两类IPU产品，以客户需求为驱动

根据不同的应用需求，英特尔提供两个系列的IPU，分别是专用ASIC IPU和基于FPGA的IPU。预计这两者将共存相当长的一段时间。

全球大多数云服务提供商都部署了英特尔基于 FPGA 的 IPU 平台。在美国和中国，排名前六的云服务提供商使用基于 FPGA 的 IPU，而 Guido 观察到他们正在逐渐转向专用的 ASIC IPU。

与专用芯片相比，FPGA 更灵活，但编程难度相对较大，吞吐量和功耗也受到一定程度的限制。

由于目前排名前八的云都使用不同的专用存储协议，云厂商如果只使用某种专有协议，选择FPGA是合理的；如果他们使用其他协议，专用 ASIC 将是更好的选择。

上周，英特尔刚刚发布了两款新的 IPU：基于 FPGA 的 IPU 参考平台 Oak Springs Canyon 和其首款专用 ASIC IPU Mount Evans。前者使用 Intel Xeon D，后者使用 Arm Neoverse N1 内核。两种 IPU 产品都可以使用现有的常用软件环境（例如 DPDK 和 SPDK）进行编程。

Oak Springs Canyon 是基于英特尔至强 D 处理器和英特尔 Agilex FPGA 的 IPU 参考平台。这种混合 IPU 架构可以以硬件的速度执行网络管理，同时允许用户更轻松地实现控制平面功能。

基于硬件的数据路径（使用 FPGA 的板载资源）和基于软件的控制平面（与 IPU 的板载处理器上的基础架构操作系统堆栈一起运行）提供的可编程性使 IPU 能够实现更强大的性能。

Oak Springs Canyon 与基于 Intel Xeon CPU 的服务器协同工作，提供卸载 2x100G 工作负载所需的基础架构加速；拥有丰富的软件生态系统，并针对英特尔 CPU 进行了优化，同时还具有英特尔开放式 FPGA 堆栈，使其合作伙伴和客户能够开发定制的解决方案。该平台可以满足新兴云服务提供商部署 100GB 工作负载的需求。

Mount Evans 是英特尔与超大规模云服务提供商联合设计开发的 ASIC 产品，基本上只作为 ​​IPU 发挥作用，适用于超大规模云部署。

它融合了英特尔多代FPGA SmartNIC的经验，分为网络子系统（左）和计算综合体（右）两部分。网络子系统包含一个固定的流水线，通过该流水线数据包是可编程的。

Mount Evans 支持 200Gb/s 吞吐量，最多可连接 4 台 Xeon 主机。云对性能的需求将推动存储、消息处理和高性能计算等许多应用迁移到基于 RDMA 的协议。通过实施 ROCEv2 和新的可靠传输技术，Mount Evans 可以支持一系列此类迁移。

它还使用从英特尔傲腾技术扩展而来的硬件加速 NVMe 存储接口。 NVMe 引擎将高性能 NVMe 设备暴露给主机处理器，允许基础设施提供商利用 IPU 来实施他们选择的存储协议，无论是硬件加速的 NVMe-over-fabrics 还是计算子系统上的自定义软件后端.

此可编程数据包处理引擎支持虚拟交换机卸载、防火墙、计量功能等用例，在实际应用中可支持高达每秒 2 亿个数据包的性能，并提供内联 IPSec 来保护每个数据包。

埃文斯山计算综合体采用 Arm NeoverseN1 Ares 内核、16 个高频内核以及由三个 LPDDR4 控制器支持的大型系统级缓存。 Guido 认为这一选择是一种务实的选择，是在评估了性能、集成度和功率之后最合适的组合。

计算复合体与网络子系统紧密集成，使网络子系统加速器能够使用系统级缓存作为最后一级缓存，并在两者之间提供高带宽、低延迟的连接，具有灵活性集成硬件和软件数据包处理。

Lookaside 加密和压缩引擎源自英特尔的 Quick Assist 技术，英特尔针对 IPU 使用模式进行了修改，包括对 Zstandard 压缩算法的支持。

结论：不断推新IPU产品，英特尔加速布局数据中心

随着云的不断扩展，越来越多不同的专用芯片品类在云数据中心逐渐涌现，包括GPU、AI芯片，以及新兴的IPU等。

近年来，除了芯片巨头的入局，IPU/DPU领域也逐渐成为芯片行业创业的热门方向。几家初创公司已经拥有许多有趣的技术和产品。 Guido 认为这对所有制造商都有好处。

在上周的英特尔架构日结束时，英特尔首席执行官亨利·基辛格表示：“英特尔回来了，故事才刚刚开始。”作为与 CPU 和 XPU 并列的英特尔云战略的重要支柱之一，IPU 的故事也处于序幕阶段。

从长远来看，几乎所有云端服务器都会有类似IPU的东西，市场前景无疑会更加广阔。目前，IPU/DPU已被众多芯片巨头认可为未来数据中心设计的又一重大战略组成部分。扩展了智能网卡的功能，推动云数据中心架构向更高性能、更低成本的方向发展，云服务商显然乐此不疲。