CPU、GPU、DPU一体是数据中心未来必然的架构

集微网消息，数据作为重要的资源和生产要素，已经成为世界范围内的共识。而这一切背后的支点——数据中心——计算和存储数据的区域，必将是未来科技企业角逐的圣地。

数据中心已不再是原来的大型机时代，即处理关键的单一任务，也走过了在软件定义数据中心下，运行多业务时如何优化利用资源的问题，目前数据中心正从纵向延伸走向了横向扩张，现有的算力便成了瓶颈，英伟达网络事业部亚太区市场开发高级总监宋庆春表示。

GPU很好的解决了算力瓶颈的问题，但仅是针对于单机的，再面向更为广泛的数据中心，特别是对于安全和性能隔离时，该如何解决？

英伟达选择了DPU。“现在在数据中心中CPU、GPU、DPU 3U一体缺一不可，这是数据中心成为计算单元的基础，也是算力成为服务的基础。”宋庆春指出。

DPU即Data Processing Unit，是面向数据中心的基础架构的处理器。从某种角度而言，DPU的出现很好地释放了CPU、GPU的资源，在英伟达眼中，它的出现为以数据为中心的新计算架构带来不同的思路。由DPU执行通信框架、存储框架、安全框架和业务隔离，将CPU、GPU算力资源“解压”给应用，让性能得到更优的释放。宋庆春表示，有了DPU以后，把通信和计算重叠起来，这样可以通过DPU来加速HPC业务中的通信，让CPU与GPU执行真正的浮点计算。

他指出，DPU的出现弥补了在数据中心中对于基础服务加速能力的不足，实现了3U一体的新型数据中心架构，让数据中心成为新的计算单元，这也是一个必然的架构。

英伟达在GTC 2021上发布了新一代 InfiniBand 网络平台Quantum-2。包括 NVIDIA Quantum-2 交换机、ConnectX-7 网卡、BlueField-3 数据处理器 DPU（数据处理器）和所有支持这种新架构的软件。这也是迄今为止最先进的端到端网络平台。

宋庆春表示，Quantum-2是一个会计算的网络，真正契合了超级计算和云原生对网络的需求。当超级计算机和云原生超算系统要实现高性能时，所有资源一定需要参与到计算中去。

数据在网络通信过程中，很多通信模型会制约整个系统性能的发展，用传统的冯·诺依曼架构的计算模型就会造成网络拥塞。无论是提升带宽还是降低延迟都无法解决这一问题，如何继续提升数据中心的性能成了业界面临的新挑战。

数据在哪里，计算就在那，宋庆春指出。以数据为中心的新架构即可解决网络传输中的丢包问题和其他瓶颈。新架构可以使通讯延时降低10倍以上，因而网络计算成为现在以数据为中心的架构的关键技术之一。

凭借每秒 400Gbps 的高吞吐量，NVIDIA Quantum-2 InfiniBand 将网速提高了一倍，网络端口数量增加了三倍。它在性能提升 3 倍的同时，还将对数据中心网络所需的交换机数量减少了 6 倍，于此同时，数据中心的能耗和空间各减少了 7%。

NVIDIA Quantum-2 平台实现了多租户之间的性能隔离，这使得一个租户的行为不会干扰到其它租户，同时通过利用先进的基于遥测且支持云原生的拥塞控制机制，确保了可靠的数据吞吐量，并且不受用户或应用需求高峰的影响。

NVIDIA Quantum-2 SHARPv3 网络计算技术可为 AI 应用提供超出上一代产品 32 倍的加速引擎数量，借助 NVIDIA UFM Cyber-AI 平台，将为数据中心提供先进的 InfiniBand 网络管理功能，包括预测性维护等。

NVIDIA Quantum-2 平台中集成了纳秒级精度的计时系统可以同步分布式应用，如在数据库处理中，有助于减少等待及空闲时间。这一新功能，其使得云数据中心成为电信网络的一部分，可以托管软件定义的 5G 无线服务。

对比传统超算平台，宋庆春介绍道，Quantum-2可以让网络直接参与到计算中，在Quantum-2平台中，通过先进的网络计算技术、动态路由、拥塞控制技术实现了业务的性能隔离，当在运行多个业务时，每个业务都能发挥到最好的性能，把超算上云时的性能发挥到最优，能够保持Bare-metal的性能。甚至可以通过Quantum-2 InfiniBand DPU 实现计算和通信的重叠，通过计算和通信的重叠又提供另外一个新的优化思路，就是把计算放在了CPU、GPU上，把通信框架放在DPU上，这时候对某些业务来看甚至可以达到比Bare-metal更好的性能，就像做快速傅立叶变换，3D FFT这样一个业务来讲，它就可以达到比Bare-metal还要更好的性能。所以，如果要是推云原生的技术平台，Quantum-2是一个最佳的网络平台去支撑云原生。

对于云原生的概念，宋庆春表示，从英伟达的角度来看，云原生也许未来会改名字，但一定会走到相关技术的方向上去，现在的算力已经成为资源，包括政府号召的节能减排、提升性能、降低功耗，所有这些都希望数据中心能以一个最低的功耗，最少的设备来提供最大的性能，这样在云原生提升性能的这个方向上肯定是毫无疑问，是对的。（校对/Sharon）