低延迟系统

2026-09-26 · 软件工程

最后更新：2026-09-26 ｜领域：软件·平台与领域应用｜说明：信息来源为公开网络资料，详见文末参考来源

概述

低延迟系统追求从微秒到纳秒级的确定性响应，广泛用于高频交易（HFT）、实时音视频、工业控制与电信前传等场景。其核心技术路线包括内核旁路（kernel bypass）、用户态网络栈（DPDK / AF_XDP）、硬件卸载（FPGA/ASIC）、异步 I/O（io_uring）以及介质与部署拓扑优化。2025–2026 年，这些技术的关注点从「绝对最快」转向「可控的尾延迟」与「可编程性」。

核心技术与关键概念

内核旁路与用户态网络：内核旁路网络（DPDK、Solarflare OpenOnload、ef_vi）将网络包直接送达用户态应用而不经过 OS 内核，消除系统调用开销、上下文切换与中断处理抖动；对交易负载而言，可将网络延迟从微秒级降到纳秒级，并消除由内核调度与中断合并导致的尾延迟尖峰（IT Infrastructure Consulting — kernel bypass）。AMD Solarflare 加速栈包含 Onload（透明 socket 加速）、ef_vi（最低延迟的原始二层 API）与 TCPDirect，涉及自旋、中断处理、NUMA/IRQ 亲和性等调优项以及各型号适配器的延迟测试结果（Reference Summaries: Networking, NICs & Kernel Bypass）。

AF_XDP / XDP：AF_XDP 地址族下的特殊 socket（XSK）配合 XDP 程序可实现完全或部分内核旁路；它结合 XDP 的 XDP_REDIRECT 判决，把数据包直接投递到用户态内存区（UMEM），是 eBPF 生态对 DPDK 内核旁路模型的回应（AF_XDP、Linux eBPF & XDP Networking Primer）。学术界进一步提出 FLASH（Fast Linked AF_XDP Sockets）以优化高性能网络功能链（FLASH）。DTU 侧还有厂商在 DPDK 的 ICE poll mode driver 中提供 rx_low_latency=1 参数，将 Rx 中断延迟降低到 2 µs，服务 vRAN 前传（ICE Poll Mode Driver）。

硬件卸载（FPGA/ASIC）：为达到亚微秒级，工程师使用 FPGA：与按指令序列执行的 CPU 不同，FPGA 是可被「布线」以在硬件层面并行执行特定交易逻辑的空白硅片；当行情数据进入 FPGA 系统时无需等待 CPU 中断，硅逻辑直接解析数据包、执行策略并在纳秒内生成订单响应（The Nanosecond Edge）。

介质与拓扑：除协议栈外，传输介质影响显著——光在标准光纤中比在空气中慢约 31%，因此空芯光纤（HCF）被用于缩短传播时延（High Frequency Trading Platforms: Architecture, Speed & Infrastructure — 2026）。

代表性项目 / 公司 / 产品（附官方链接）

DPDK：Linux Foundation 托管的用户态数据面开发套件，覆盖 NIC 轮询模式驱动与低延迟选项（DPDK）。
AMD Solarflare（Onload / ef_vi / TCPDirect）：商用低延迟网络加速栈（Reference Summaries）。
AF_XDP / eBPF：Linux 内核内建的内核旁路与可编程数据面方案（docs.ebpf.io）。
io_uring：Linux 异步 I/O 框架，被 Oracle Database 等生产系统采用（io_uring in Oracle Database）。
WebRTC / WHIP / WHEP：实时音视频传输标准，WHIP/WHEP RFC 9725 已定稿（WHIP и WHEP）。

关键数据与评测结果（附来源）

NIC 延迟对照：标准网卡因 OS 开销引入 20–50 µs 延迟；DPDK 与 Solarflare OpenOnload 通过旁路 OS、将 NIC 内存直接映射到应用，把延迟降至 1–5 µs（High Frequency Trading Platforms: Architecture, Speed & Infrastructure — 2026）。
内核旁路收益：有来源称内核旁路可将网络传输延迟降至 低于 1.0 µs，并消除 OS 抖动（High-Frequency Trading latency setups）。
DPDK 低延迟模式：ICE PMD 的 rx_low_latency 可将 Rx 中断延迟降至 2 µs（ICE Poll Mode Driver）。
io_uring 生产数据：TPC-C 吞吐持平、服务器 CPU −1.2pp；TPC-H 每查询 CPU（几何平均）−8.5%；写路径 −29%（io_uring in Oracle Database）。
实时媒体延迟分级：WebRTC <300 ms（交互场景）；WHIP→SFU→WHEP 200–500 ms；RTMP 3–5 s；HLS 6–30 s；LL-HLS 约 2 秒级（WebRTC Live Streaming（2026）、Low-Latency Streaming: WebRTC vs LL-HLS、WHIP и WHEP）。

上述延迟数字来自不同厂商/博客与场景，测量口径（端到端、单向、硬件配置）并不统一，仅作量级参考。

趋势与争议

趋势：一是「可编程内核旁路」——AF_XDP / eBPF 让「Darwin 式」的完全旁路与内核网络栈之间出现可编程的中间态，成为 DPDK 之外的选择（AF_XDP）；二是「异步 I/O 复兴」——io_uring 的零拷贝与批量能力在数据库等存储密集型系统获得实测收益（io_uring in Oracle Database）；三是「实时媒体的低延迟分层」——WebRTC/WHIP 负责交互级，LL-HLS 负责大规模型（Low-Latency Streaming）。

争议与取舍：其一，绝对延迟 vs 系统复杂度——FPGA/ASIC 可进入亚微秒甚至纳秒级，但开发与维护成本高、迭代慢，软件方案（DPDK/OpenOnload）更易维护（The Nanosecond Edge）。其二，DPDK vs AF_XDP——后者集成于内核、可编程性好，但完全旁路能力与成熟度、生态（如 PMD 覆盖）仍以 DPDK 为强项。其三，实时音视频中 WebRTC 延迟最低但规模化成本高（单台服务器可承载数百观众量级），LL-HLS 易扩展但延迟在 2 秒级，多数运营方采用混合架构（Low-Latency Streaming）。其四，延迟数据高度依赖测量口径，跨来源比较需谨慎。

低延迟系统

概述

最新进展（2025–2026）

核心技术与关键概念

代表性项目 / 公司 / 产品（附官方链接）

关键数据与评测结果（附来源）

趋势与争议

参考来源