专⽤数据处理器 (DPU) Technical White Paper of Data Processing Unit 技术⽩⽪书 第1.0版 2021年10月 主编单位 中国科学院计算技术研究所 联合编写发布单位 中科驭数（北京）科技有限公司 计算机体系结构国家重点实验室 中国计算机学会（CCF）集成电路设计专业组 DPU White Paper INTENTIONALLY LEFT BLANK All Rights Reserved 2 DPU White Paper 编委会 顾问：孙凝晖、刘明、李晓维、胡伟武、陈云霁 主编：鄢贵海 编委（按姓⽒拼音排序）：崔慧敏、陈岩、陈世敏、樊海爽、孔浩、卢⽂岩、 廖云坤、李明、孙伟、吴婧雅、袁晓飞、赵巍岳、张宇、张宇军 All Rights Reserved 3 DPU White Paper 特别致谢 本白皮书编写过程中还得到了北京市科学技术委员会、中关村科技园区 管理委员会、中国移动物联⽹有限公司、曙光信息产业有限公司、浪潮集团、 龙芯中科、华泰证券、中泰证券、⾦证股份、上交所技术有限公司、英特尔（中 国）有限公司、赛灵思电⼦科技公司、东⽅国信科技股份有限公司、首都在 线、迈普通信技术股份有限公司、360数科等机构和上下游企业的支持与协助， 特此表达衷⼼的感谢！ All Rights Reserved 4 DPU White Paper 版权声明 本白皮书版权属于主编和联合编写发布单位，并受法律保护。转载、摘编或 利用其它⽅式使用本白皮书⽂字或者观点应注明“来源:专用数据处理器（DPU）技术 白皮书，中国科学院计算技术研究所，鄢贵海等”。违反上述声明者，版权⽅将追究 其相关法律责任。 All Rights Reserved 5 DPU White Paper ⽬录 内容提要 ..............................................................................................................7 1. DPU技术发展概况 .....................................................................................9 1.1. 什么是DPU ...............................................................................................................9 1.2. DPU的发展背景 ....................................................................................................12 1.3. DPU发展历程 .........................................................................................................16 1.4. DPU与CPU、GPU的关系 ...................................................................................19 1.5. DPU的产业化机遇 ................................................................................................21 2. DPU特征结构 ............................................................................................23 2.1. DPU是以数据为中⼼IO密集的专用处理器 .....................................................23 2.2. 计算平台从“计算为中⼼”转向“数据为中⼼” ...................................................25 2.3. ⼀种DPU参考设计 ................................................................................................29 2.4. DPU具备的主要功能 ............................................................................................34 3. DPU应用场景 ............................................................................................35 3.1. 应用场景⼀：⽹络功能卸载 ...............................................................................35 3.2. 应用场景⼆：存储功能卸载 ...............................................................................51 3.3. 应用场景三：安全功能卸载 ...............................................................................55 4. DPU软件栈五层模型 ...............................................................................58 4.1. 软件栈开发面临的挑战 ........................................................................................58 4.2. DPU异构计算架构五层开发模型.......................................................................58 4.3. 典型软件框架案例 ................................................................................................63 5. 业界产品概要介绍 ....................................................................................70 5.1. NVIDIA BLUEFIELD ..........................................................................................70 5.2. INTEL IPU（MOUNT EVANS） .....................................................................73 5.3. MARVELL OCTEON ..........................................................................................77 5.4. FUNGIBLE DPU ...................................................................................................81 5.5. 中科驭数 K2 DPU .................................................................................................85 6. DPU发展展望 ............................................................................................92 All Rights Reserved 6 DPU White Paper 内容提要 DPU（Data Processing Unit）是新近发展起来的一种专用处理器。2020年 NVIDIA公司发布的DPU产品战略中将其定位为数据中心继CPU和GPU之后的 “第三颗主力芯片”，掀起了一波行业热潮。DPU的出现是异构计算的一个阶 段性标志。与GPU的发展类似，DPU是应用驱动的体系结构设计的又一典型案 例；但与GPU不同的是，DPU面向的应用更加底层，类型也更多样。DPU要解 决的核心问题是基础设施的“降本增效”，即将“CPU处理效率低下、GPU处 理不了”的负载卸载到专用DPU，提升整个计算系统的效率、降低整体系统的 总体拥有成本（TCO）。新一代的DPU不仅可以作为运算的加速引擎，还具备 控制平面的功能，能够运行Hypervisor，更高效的完成网络虚拟化、IO虚拟化、 存储虚拟化等任务，彻底将CPU的算力释放给应用程序。DPU的出现也许是体 系结构朝着专用化路线发展的又一个里程碑。 本白皮书将重点分析DPU产生的背景、技术特征、软硬件参考架构，应用 场景、并对目前已经公布的DPU产品做简要的比较分析，为后续DPU技术发展 提供必要的参考。本文的大体结构如下： 第一部分介绍DPU的技术发展概况，首先对DPU做了一个基本的定义，然 后阐述了DPU发展的背景，并简要介绍DPU发展的历程，DPU在现有计算生态 中的角色，最后以DPU的产业化机遇作为总结。 第二部分详细说明DPU的特征结构，对DPU的定位做了进一步阐述，然后 提出一种通用的DPU的结构模型。 第三部分介绍DPU的应用场景，本文总结了三大应用场景：网络功能卸 载、存储功能卸载、安全功能卸载，这也是DPU目前最重要的三个应用方向。 All Rights Reserved 7 DPU White Paper 第四部分提出DP