当前位置:首页 > 文章列表 > 文章 > linux > Linux io_uring registered files怎样减少高频 I/O 的文件描述符开销

Linux io_uring registered files怎样减少高频 I/O 的文件描述符开销

来源:17golang原创 2026-11-05 02:26:51 0浏览 收藏

Linux io_uring 的 registered files(也称 fixed files)适合一组已经打开、会被反复用于 I/O 的文件:先把它们注册到当前 ring 的文件表,后续请求用槽位索引配合 IOSQE_FIXED_FILE 引用文件,从而减少每次请求的普通文件描述符查找和文件引用管理开销。注册本身有成本,还要维护槽位,所以不能把它理解成所有 I/O 都值得开启的加速开关。

liburing 官方地址:https://github.com/axboe/liburing

先看文件是否会被反复使用

考虑一个分片读取服务:进程启动后打开一组数据文件,多个工作线程不断读取其中的小块。文件集稳定、每个文件承接很多请求时,一次注册的成本可以由后续请求分摊。这类工作负载值得比较 fixed files 与普通 fd 的 CPU 成本。

另一种服务每次请求都打开一个临时文件,读一次就关闭。若再为每个文件注册、更新和释放槽位,新增管理成本可能抵消收益。面对这种情况,先保留普通 fd 路径,通常更容易维护。

选型时先记录三个量:每个文件平均复用次数、文件集更换频率、I/O 请求在 CPU 上的成本。设备等待时间占主导时,减少少量文件引用开销也未必明显改变端到端延迟。这里讨论优化机制,不提供未经测量的提速比例。

普通fd与固定槽位到底差在哪里

普通请求把进程文件描述符放进 SQE 的 fd 字段;内核需要找到对应文件并管理请求使用的引用。文件表在线程间共享时,这类引用管理成本尤其值得关注。注册文件则让 ring 持有相应文件引用,后续请求通过该 ring 的注册表访问它们。

假设数组 files[0] 保存普通 fd 42。注册成功后,固定文件请求传的是槽位 0,而不是 42。数字 0 并不因此成为整个进程通用的文件句柄,它只在指定 ring 的注册表语境中有意义。

决定解释方式的是 IOSQE_FIXED_FILE:设置它,sqe->fd 表示注册索引;不设置,则表示普通 fd。漏掉标志不一定立即报错——如果那个数字刚好也是一个有效普通 fd,请求可能指向另一个文件。因此最好用不同变量名区分 os_fd 与 slot。

普通文件描述符表与ring注册文件表的双域静态结构
图1:静态结构说明图。普通fd和固定槽位属于不同索引空间,二者最终引用文件对象;固定槽位的含义由IOSQE_FIXED_FILE标志限定。

把注册和读取准备拆成两个明确动作

下面用两个 C 函数展示核心接口,不包含完整事件循环。调用方已经初始化 ring、成功打开只读文件,并负责 SQE 提交、完成回收及缓冲区生命周期。示例只读取明确偏移处的一块数据,不涉及 O_DIRECT 的对齐要求或注册缓冲区。

#include 
#include 

/* 初始化阶段注册一个文件:成功后注册表槽位为0。
 * 此函数要求ring尚未注册文件表;返回值沿用liburing的负错误码。 */
static int register_input(struct io_uring *ring, int os_fd)
{
    int files[1] = { os_fd };
    return io_uring_register_files(ring, files, 1);
}

/* 只准备一次读取,buf由调用方持有到该请求完成。
 * fixed为真时,target必须是本ring的槽位;否则它是普通fd。 */
static int prepare_read(struct io_uring *ring, int target, int fixed,
                        void *buf, unsigned len, unsigned long long offset,
                        unsigned long long request_id)
{
    struct io_uring_sqe *sqe = io_uring_get_sqe(ring);
    if (!sqe)
        return -EAGAIN;  /* 无空闲SQE:由事件循环提交或回收后再安排 */

    io_uring_prep_read(sqe, target, buf, len, offset);
    if (fixed)
        sqe->flags |= IOSQE_FIXED_FILE;
    io_uring_sqe_set_data64(sqe, request_id); /* 将完成事件关联到请求对象 */
    return 0;
}

注册成功的返回值是 0;失败返回负错误码。只有成功后,才调用 prepare_read(ring, 0, 1, ...) 使用槽位 0。普通路径则调用 prepare_read(ring, os_fd, 0, ...)。这里的省略号表示函数的其余参数,便于对照参数语义,并非可直接编译的完整调用。

准备返回 0 只说明已经取得并填好 SQE,不代表提交成功,更不代表读取成功。调用方还要检查提交接口的返回值;回收 CQE 时,res 是负错误码,res == 0 表示读到文件末尾,正数表示实际读入字节数。短读需要按业务决定是否继续安排剩余部分。

示例显式传入文件偏移,避免并发读取争用共享当前位置。缓冲区也不能在函数返回后立刻复用:它属于请求对象,要保留到该请求的完成事件被处理。固定文件仅改变文件引用方式,不改变这些异步 I/O 规则。

槽位更新和资源释放要有同一个负责人

普通 fd 与注册引用分别有生命周期。注册成功后,ring 自己持有文件引用,因此可以按应用设计关闭原始普通 fd;但 close(os_fd) 不会顺带删除注册槽位。反过来,解除注册也不等于替你关闭仍然保留的普通 fd。

应用需要给每个槽位维护文件身份和使用状态。更换文件时,先停止把新请求分配到旧映射,处理仍未提交的 SQE,并按照应用的完成计数等待相关请求结束,然后再替换映射。这样的保守管理办法便于推理;不要把“索引相同”当成“始终还是同一个文件”。

io_uring_register_files_update 可以更新已注册表中的一个或多个槽位,成功返回更新的文件数,而不是统一返回 0。将条目设为 -1 可以清空槽位,空槽位不能拿来执行固定文件 I/O。如果要预建空表再填充,可研究 sparse 注册;官方文档注明该变体需要 Linux 5.19 及以后内核,部署时还须匹配实际 liburing 能力。

普通句柄、注册引用和请求上下文的资源归属关系
图2:静态资源关系说明图。注册表持有文件引用,请求上下文持有缓冲区并以user_data关联CQE;槽位映射与请求资源需要分别管理。

退出时先停止产生请求并妥善结束在途 I/O,再处理注册资源。io_uring_unregister_files 可以显式解除整张表,销毁 ring 也会释放其注册文件资源。不要在“已经调用释放函数”这一点上推导业务请求已全部成功;完成状态仍应从请求自己的 CQE 获取。

怎样比较收益,以及哪些场景先别用

比较时只切换普通 fd 与 fixed files,保持文件、读取范围、块大小、队列深度、线程模型和缓存条件一致。把注册或更新成本单独记录,同时计入服务整体成本,避免只测稳定期而遗漏高频换文件的代价。

建议观察每完成一次 I/O 消耗的 CPU 时间、吞吐量以及尾延迟,并记录文件复用次数。吞吐量未提高但单位请求 CPU 成本降低,可能仍有价值;相反,如果槽位锁争用、管理逻辑或存储延迟掩盖了收益,就不能仅凭用了注册接口宣称优化成功。

对大量短命文件、频繁切换文件集、请求量很小的程序,先采用普通 fd。对于多个 ring,槽位归属必须单独维护,不能把一个 ring 的索引直接交给另一个 ring。registered files 也不等于 registered buffers:前者针对文件引用,后者针对内存缓冲区,开启其中一个不会自动获得另一个的效果。

按文件生命周期作最终选择

条件优先方案需要承担的工作
稳定文件集,大量重复I/O比较后采用注册文件表注册失败处理、槽位映射和完成回收
单次读取,随后关闭普通fd维持通常的异步请求生命周期
文件频繁替换但确有CPU收益注册表加显式更新统计更新成本,防止旧映射混入新请求
需要预分配空槽位符合环境能力时选sparse表空槽位填充、容量和版本管理

注册后还能提交普通fd请求吗?

可以。同一个 ring 可以同时使用两条路径;每个 SQE 都必须给出与标志匹配的目标数字。

注册文件会自动变成零拷贝吗?

不会。它优化的是文件引用管理;数据是否复制、是否使用页缓存、读取多大范围,仍由所用操作和文件条件决定。

为什么设置了标志仍然失败?

先看该 CQE 的负错误码,再检查槽位是否属于当前 ring、是否已经成功注册、是否为空,以及所用操作的参数限制。不要把所有错误都归因于 registered files。

接口参考:https://github.com/axboe/liburing/blob/master/man/io_uring_registered_files.7;https://github.com/axboe/liburing/blob/master/man/io_uring_register_files.3;https://github.com/axboe/liburing/blob/master/man/io_uring_prep_read.3。

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
Python sqlite3 autocommit怎样区分连接事务与显式事务Python sqlite3 autocommit怎样区分连接事务与显式事务
上一篇
Python sqlite3 autocommit怎样区分连接事务与显式事务
Python importlib.metadata怎样读取已安装包的入口点
下一篇
Python importlib.metadata怎样读取已安装包的入口点
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    888次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    887次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    970次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    955次使用
  • MMBench详解:多模态大模型基准测试、功能特点与使用指南
    MMBench
    MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
    782次使用