当前,推出探索数据已经成为企业的各项核心资产 。随着企业数字化转型步入“深水区” ,举措景赋加速人工智能、应用场大数据 、创新云计算 、推出探索物联网等技术的各项不断落地 ,企业获取数据的举措景赋加速方式越来越简单,数据量呈现出爆炸式增长的应用场态势 。面对庞大的创新数据总量 ,一方面对数据中心的推出探索算力提出了更高的亿华云要求;另一方面 ,也对网络带宽提出了更大的各项挑战。为了提高响应,举措景赋加速降低延迟 ,应用场DPU应运而生。创新
根据赛迪顾问的数据,自2023年起 ,全球 DPU 市场规模将突破百亿美元 ,并进入年增长率超过50% 的增长快车道 。在中国 ,DPU 市场规模在2023年也将有 300亿元人民币以上 ,会出现跳跃式增长 。DPU 的建站模板广泛采用,将会催生大量新的应用和服务,带动相关硬件和软件系统平台的增长。
为了帮助现代化数据中心构建高性能的网络 ,在今年的NVIDIA GTC上,NVIDIA正式对外发布了Spectrum-4以太网平台 ,包括NVIDIA Spectrum-4交换机系列 、ConnectX-7智能网卡、NVIDIA BlueField-3 DPU,以及DOCA数据中心基础设施软件组成。在近期组织的一次媒体沟通上,免费模板NVIDIA网络专家崔岩和NVIDIA网络市场总监孟庆详细分享了关于DPU和DOCA的最新进展,以及DPU黑客马拉松的相关事项。
简化开发流程 ,赋能开发者加速创新
为了帮助开发者加速基于NVIDIA BlueField DPU的开发 ,NVIDIA于2020年秋季正式推出了NVIDIADOCA 1.0 。
众所周知,NVIDIA DOCA 是一个为 BlueField DPU 量身定做的软件开发框架,主要目的就是为开发者打造一个全面、开放的源码下载开发套件,支持广大的开发者在 BlueField DPU 上进行简单、灵活的软件开发,让开发者可以快速创建BlueField DPU 加速的、高性能应用程序和服务。
自发布之后,NVIDIA DOCA经历了多次的升级 ,并也今年5月份正式推出了DOCA 1. 3。NVIDIA网络专家崔岩告诉记者 ,DOCA 1.3提供了121个新的API开发接口及一些全新的和增强的高防服务器功能,包括优化数据流插入的DOCA Flow库 、通信通道库、正则表达式库以及App Shield SDK和基于OVN的IPSec完全加密卸载,以及DOCA新增和增强的服务等。
据介绍 ,DOCA依托于面向未来 、API驱动的思维模式而构建 ,可让 BlueField DPU 硬件加速器变得易于使用 ,从而实现非凡的数据中心性能、效率和安全性。云计算
对于开发者而言,DOCA 能够让他们利用行业标准 API 在 BlueField DPU 上快速创建应用程序和服务(类似于 GPU 的 CUDA)。它能解锁数据中心创新功能,并且能更好的向下平滑兼容持续演进的新一代 BlueField DPU ,包括今年下半年上市的 BlueField-3 DPU和未来的 BlueField-4 DPU 。
NVIDIA网络市场总监孟庆表示,DOCA 可以加快应用程序和服务的上市时间 ,使客户和合作伙伴在各自的行业竞争中取得成功,并基于BlueField DPU 的应用场景方面发挥着关键的灵魂作用 。
孟庆强调,DOCA是DPU的灵魂 ,二者不能分开。因此 ,DPU+DOCA软硬皆施才是DPU最好的市场形态。对于硬件来说,DPU可以作为单独的芯片或者作为DPU卡,也可以作为额外的芯片集成在GPU或者CPU里,这就需要根据用户需求,为相应的使用场景来定制 。
探索更多场景,推进DPU在应用中的落地
为了探索更多DPU场景,NVIDIA正在通过一系列的举措 ,加速DPU的应用落地。
在生态建设方面 ,NVIDIA BlueField DPU已经作为核心部件应用到NVIDIA认证系统中,包括HGX 、EGX和OVX ,并为认证系统平台提供加速的以太网或InfiniBand解决方案。同时 ,连接 NVIDIA Spectrum 端到端以太网平台或 QuantumInfiniBand网络平台,为现代数据中心工作负载提供所需的精确定时、极致的性能、高级的安全性和强大的功能,成为构建 AI 工厂的核心骨干网络 ,有力支撑上层系统软件、高性能计算、人工智能和虚拟仿真平台应用。
为了帮助开发者更好的学习和应用DPU,NVIDIA还组织举办了DPU中国黑客松竞赛 。首届竞赛也于近期正式落幕,60多支队伍报名参赛,并发布自己的作品 。
本次采访中 ,来自高校的DPU开发者胡效赫也分享了他所在团队的参赛经验与成果。据介绍,胡效赫的开发团队提出了“DeepTrace”项目,面向DPU驱动的基础设施网包级函数粒度业务可观测性 。该项目以DOCA提供的网流及粗粒度可观测性为基础,利用DOCA中的Netflow API库 ,结合DPU的高性能网络处理功能(ASAP2网包分类引擎) ,以及DOCA中的Flow API库 、数据平面和控制平面的可编程能力,将可观测性的力度提升至网包级,并精确到每个函数功能。同时,实现了可以忽略不计的性能损耗。
崔岩指出,DPU 中国虚拟黑客松竞赛可以更好的激发 DOCA 开发者的创新 ,在 NVIDIA BlueField DPU 和 NVIDIA DOCA 应用场景方面给我们带来一些启发 ,比如在分布式存储、数据流跟踪分析、裸金属云管理 、RDMA数据包加解密等。他表示 ,通过本次竞赛,以及未来的黑客松竞赛,给开发者带来一个更好地学习氛围 ,帮助大家学习、熟悉DPU和DOCA应用场景 ,掌握编程方式 。同时 ,通过和别的队伍同场竞技 ,互相学习和参考,获得更大启发 。
据了解 ,NVIDIA正在计划今年下半年的第二届 DPU 中国虚拟黑客松活动 ,并在第二届活动中为广大的 DOCA 中国开发者提供为 DPU 中国虚拟黑客松训练营 ,为他们提供最新的 DPU 和 DOCA 发布信息 ,随后会组织 DPU 中国虚拟黑客松竞赛 。
除此之外,NVIDIA 授权合作伙伴DPU和DOCA 卓越中心也在为DOCA中国开发者提供在线实践的免费DOCA开发环境 ,并与NVIDIA一起构建和拓展 DPU 和 DOCA生态体系;与NVIDIA 共同推动 DOCA 中国开发者社区的发展,提供培训课程和专业讲师 ,组织DOCA 中国开发者社区活动,支持DOCA 开发者训练营和 DPU 黑客松竞赛 。