英伟达发布了 DAQIRI 的更新版本。这款软件定义的数据采集库新增了硬件数据包重排序、优化的 ibverbs 引擎后端,以及用于低延迟数据包处理的直接轮询模式。DAQIRI 让开发者能够在采集过程中将高带宽传感器和仪器数据直接处理到 GPU 内存中,无需先将测量数据写入磁盘;它也是英伟达 Holoscan 平台的一部分。这些新功能旨在应对极高数据速率带来的挑战,例如劳伦斯伯克利国家实验室分子铸造厂开发的先进电子显微镜相机所产生的每秒超过 500 吉比特(Gbps)数据流。
高动态范围电子显微镜集成
伯克利实验室与英伟达合作,展示了 DAQIRI 如何连接先进探测器与 GPU 处理。分子铸造厂的高动态范围电子显微镜相机能够在单次测量中捕获强信号和微弱信号,无需像传统电子能量损失谱(EELS)那样采用两套分别优化的采集流程。这项进展产生的数据流超过 500 Gbps,速度是传统 EELS 数据流的 500 多倍,因此需要具备实时处理相应吞吐量能力的采集和处理流水线。FPGA 读出电子设备通过以太网传输探测器数据,DAQIRI 将数据包直接接收到 GPU 内存中,GPU 处理则组装并校正探测器帧,再将其转换为能量损失谱。该流水线可通过 GPU 计算改善空间信息恢复能力,从宽度为 5 微米的传感器像素中实现亚微米级空间分辨率。科学家可以在测量期间检查数据,并在处理速率超过 500 Gbps 的传入数据时,实时调整采集参数和感兴趣区域。
通过 ConnectX 网卡实现硬件数据包重排序
最新版本的 DAQIRI 将数据包重排序卸载至受支持的英伟达 ConnectX-7 或更新型号网卡(NIC),无需再通过单独的软件步骤复制和重排序数据。大多数网络依靠协议处理或接收端缓冲来处理乱序数据包,这可能增加延迟和内存开销。通过硬件重排序,网卡解析数据包头中的序列字段,并将每个有效载荷直接放入内存中的正确顺序位置,使应用能够接收已完整组装并排序的数据,无需额外的处理开销。这种方法让 CPU 和 GPU 资源能够用于分析,而非数据包管理。硬件重排序按接收队列配置,设置项包括如何从数据包头解析序列号、使用哪种重排序方法(例如循环序列验证),以及如何处理丢失的数据包(例如,在接收超时后丢弃不完整批次)。该配置支持将有序数据包传送至 GPU 内存,并定义有效载荷字节偏移、数据包大小、流标识符,以及序列字段的位位置和位宽等参数。
用于高速数据包处理的 ibverbs 引擎
DAQIRI 新增了基于 libibverbs 和英伟达 DevX 构建的 ibverbs 引擎,可高效接收和发送高速原始以太网数据包。对于原始以太网数据流,该引擎默认启用;也可在 DAQIRI 配置中添加 engine: "ibverbs" 显式启用,无需更改应用 API 的用法。通过降低每个数据包的 CPU 开销,在极高数据速率(超过 200 Gbps)下处理最大 1024 字节的小型数据包时,ibverbs 引擎的每核吞吐量约为此前默认 DPDK 后端的两倍。这些性能提升已通过在英伟达 DGX Spark、英伟达 IGX Thor 和英伟达 RTX PRO 服务器平台上进行的基准测试得到验证。
通过直接轮询模式降低反馈延迟
智能仪器通常需要根据 GPU 分析结果获得低延迟反馈,以便实时调整采集或控制设置。DAQIRI 的直接轮询模式允许应用线程直接接收和提交数据包,无需将任务交接给单独的输入/输出工作线程,从而降低通信延迟。在有线环回基准测试中,直接轮询模式下应用端从发送到接收的延迟已达到约 2–4 微秒(µs)。使用 ibverbs 引擎时,开发者可以为控制队列选择直接轮询,同时对高吞吐量数据流保留批处理。对于对延迟敏感的发送(TX)和接收(RX)控制队列,将 poll_mode: "direct" 设为相应值即可配置直接轮询;应用线程可直接提交和接收数据包,无需中间缓冲。
关键事实
- 英伟达 DAQIRI 是一款软件定义的数据采集库,可将高带宽仪器和传感器数据直接接入适用于 GPU 的工作流,无需先将测量数据写入磁盘。
- 最新版本的 DAQIRI 为受支持的英伟达 ConnectX-7 或更新型号网卡新增了硬件数据包重排序功能,可降低处理乱序数据包时的延迟和内存开销。
- 基于 libibverbs 和英伟达 DevX 构建的新 ibverbs 引擎,在数据速率超过 200 Gbps、数据包大小较小(最大 1024 字节)时,每核吞吐量约为此前 DPDK 后端的两倍。
- 在有线环回基准测试中,直接轮询模式允许应用线程直接提交和接收数据包,将应用端从发送到接收的延迟降至 2–4 微秒。
- 劳伦斯伯克利国家实验室分子铸造厂开发的高动态范围电子显微镜相机可产生超过 500 Gbps 的数据流,速度是传统电子能量损失谱(EELS)数据流的 500 多倍。
- 伯克利实验室与英伟达合作,通过 GPU 处理,从宽度为 5 微米的传感器像素中实现了亚微米级空间分辨率。
- DAQIRI 是英伟达 Holoscan 平台的一部分,可将针对测量优化的传感器与可编程 GPU 平台连接起来,用于科学分析、AI 推理和反馈应用。
常见问题
什么是英伟达 DAQIRI?它如何运作?
英伟达 DAQIRI 是一款软件定义的数据采集库,可将高带宽仪器和传感器数据接入适用于 GPU 的工作流,使开发者能够在采集过程中处理测量数据,而无需先将其写入磁盘。作为英伟达 Holoscan 平台的一部分,DAQIRI 将针对测量优化的传感器与可编程 GPU 平台连接起来,用于科学分析、AI 推理和反馈应用;这既让现有的以太网仪器能够增加处理和反馈能力,也让新仪器可以从设计阶段重新考量采集限制。
新的 ibverbs 引擎带来了哪些性能提升?
基于 libibverbs 和英伟达 DevX 构建的 ibverbs 引擎,在极高数据速率(超过 200 Gbps)下处理最大 1024 字节的小型数据包时,每核吞吐量约为此前 DPDK 后端的两倍。其性能提升已通过在英伟达 DGX Spark、英伟达 IGX Thor 和英伟达 RTX PRO 服务器平台上进行的基准测试得到验证。该引擎降低了每个数据包的 CPU 开销,同时保持 API 兼容性;开发者只需在 DAQIRI 配置中添加 engine: "ibverbs",即可启用该引擎,无需修改应用代码。
直接轮询模式如何降低实时反馈延迟?
DAQIRI 的直接轮询模式允许应用线程直接接收和提交数据包,无需将任务交接给单独的输入/输出工作线程,从而降低通信延迟。在有线环回基准测试中,使用直接轮询模式时,应用端从发送到接收的延迟已达到约 2–4 微秒。开发者可以在对延迟敏感的 TX 和 RX 控制队列上将 poll_mode: "direct" 设为相应值,以配置直接轮询,同时保留对高吞吐量数据流的批处理;这样,智能仪器便能根据 GPU 分析反馈,实时调整采集或控制设置。