Linux cgroup v2 io.stat怎样区分设备读写吞吐

Linux cgroup v2 的 io.stat 不是实时速度表，而是按设备累计记录读写字节数和 IO 次数。要区分某个设备的读写吞吐，先用 MAJ:MIN 找到目标行，再分别读取 rbytes、wbytes、rios 和 wios，在两个时间点采样，用差值除以时间间隔得到区间吞吐。

最容易出现的误判有三个：把输出行顺序当成设备顺序，把累计字节数直接当成 B/s，以及把 rios、wios 当成字节数。下面按排查清单拆开处理。

官方资料：https://www.kernel.org/doc/html/latest/admin-guide/cgroup-v2.html

判断一个 cgroup 在某块设备上的读写吞吐，核心不是读一行数字，而是固定同一个 MAJ:MIN，分别采样读写累计计数，再用时间差做计算。

先确认 io.stat 位于哪个 cgroup

cgroup v2 是单一层级，控制器接口位于对应 cgroup 目录下。先确认系统的 cgroup v2 挂载点，再进入实际承载工作负载的 cgroup；不要默认把根目录的统计当成服务自身统计。

# 找到 cgroup2 文件系统的挂载点，避免把 v1 目录当成 v2 使用
CGROUP_ROOT=$(awk '$3 == "cgroup2" { print $2; exit }' /proc/mounts)

# 这里替换成服务所在的相对 cgroup 路径；示例只读取，不修改控制器配置
CGROUP_DIR="$CGROUP_ROOT/my-service"

# 先确认目标目录和 io.stat 文件存在，再继续读取计数
test -r "$CGROUP_DIR/io.stat" || {
    echo "io.stat 不可读，请检查 cgroup 路径和 io 控制器" >&2
    exit 1
}
cat "$CGROUP_DIR/io.stat"

如果 io.stat 不存在或不可读，先检查父 cgroup 的 cgroup.controllers 是否列出 io，以及控制器是否按层级启用。本文只讨论已有统计入口的读取，不把缺少接口时的控制器配置混入吞吐计算。

按 MAJ:MIN 对应具体设备

官方文档把 io.stat 定义为只读的嵌套键值文件，每行以 MAJ:MIN 设备号作为键，而且行顺序没有保证。也就是说，不能用“第一行就是系统盘”这样的规则定位设备。

可以用 lsblk 取得设备的主次设备号，再用同一个键筛选统计行：

# 用 lsblk 显示块设备的主次设备号，便于和 io.stat 的键对应
lsblk -o NAME,MAJ:MIN,SIZE,TYPE,MOUNTPOINT

# 把 MAJ:MIN 替换成目标设备的真实键；固定键比依赖行顺序可靠
DEVICE_KEY="8:0"
grep -E "^${DEVICE_KEY} " "$CGROUP_DIR/io.stat" || {
    echo "目标设备当前没有匹配的 io.stat 行" >&2
    exit 1
}

设备号是定位键，不是设备名称。比如 8:0 只能说明主设备号为 8、次设备号为 0；读者仍应通过当前系统的块设备列表确认它对应哪一个设备。

区分六个累计字段的含义

一行典型的格式类似下面这样。它是文档格式示例，用来说明字段位置，不代表本文机器上的实时输出：

8:0 rbytes=90430464 wbytes=299008000 rios=8950 wios=1252 dbytes=50331648 dios=3021

因此，读写吞吐应使用 rbytes 和 wbytes，不能把 dbytes 加到写入量里，也不能用 rios 代替读字节数。若统计行在两次读取之间消失，应该把它视为 cgroup 或设备统计范围发生变化，而不是把缺失值默认为零。

用两次采样计算读写吞吐

因为字段是累计值，所以需要在 t0 和 t1 读取同一个设备行。设 Δt=t1-t0，则：

• 读吞吐 = (rbytes1-rbytes0) / Δt
• 写吞吐 = (wbytes1-wbytes0) / Δt
• 平均读 IO 大小 = (rbytes1-rbytes0) / (rios1-rios0)
• 平均写 IO 大小 = (wbytes1-wbytes0) / (wios1-wios0)

# 采样间隔要使用秒，计算结果才是每秒字节数
INTERVAL=5
DEVICE_KEY="8:0"

# 读取同一设备的整行，避免不同设备的累计值被混在一起
read_stat() {
    grep -E "^${DEVICE_KEY} " "$CGROUP_DIR/io.stat" || return 1
}

# 保存 t0 的原始行；生产脚本还应记录采样时间戳
SAMPLE0=$(read_stat) || exit 1
sleep "$INTERVAL"
SAMPLE1=$(read_stat) || exit 1

# 这里只展示采样关系；解析键值时应保留字段名，不能依赖字段出现顺序
printf 't0=%s\nt1=%s\ndelta_seconds=%s\n' "$SAMPLE0" "$SAMPLE1" "$INTERVAL"

上面的命令保留了两次原始行，实际监控程序应按键名解析 rbytes 和 wbytes，再做整数减法。若差值为零，说明该区间没有对应方向的新增字节；若差值为负，优先检查设备或 cgroup 是否被重建、计数器是否重置，而不是直接发布负吞吐。

常见异常怎样定位

统计行找不到

先重新查看 lsblk -o NAME,MAJ:MIN，确认主次设备号没有写错；再确认工作负载是否真的在当前 cgroup 中。io.stat 按设备号输出，设备名称变化或路径变化不会自动改写你保存的筛选键。

数值不变但磁盘很忙

这通常意味着观察的 cgroup 不是产生 IO 的那个 cgroup，或者目标设备键不是实际发生 IO 的设备。不要只看宿主机总磁盘活动就推断当前 cgroup 的计数也会增长。

把累计值直接显示成速度

rbytes=90430464 表示从统计范围开始累计读取了多少字节，不表示每秒读取多少字节。速度必须配合采样间隔计算；采样间隔越短，越容易受调度和计数更新粒度影响，监控程序应选择稳定的窗口并保留时间戳。

把 latency 字段当成基础统计

基础 io.stat 先提供读写字节、读写次数和 discard 字段；启用 IO latency 相关能力并满足内核配置时，可能看到额外调试统计。本文标题关注设备读写吞吐，排查时不要把可选 latency 字段和基础字段混为一谈。

最后用一张清单复查

1. 确认读取的是 cgroup v2 的目标 cgroup，而不是误选的 v1 目录或根目录。
2. 用 lsblk 把设备名称映射到稳定的 MAJ:MIN 键。
3. 读取同一键的 rbytes、wbytes、rios 和 wios。
4. 在两个时间点采样，用累计值差值除以秒数，分别得到读吞吐和写吞吐。
5. 遇到零值、负差值或统计行消失时，先检查 cgroup 生命周期、设备映射和工作负载归属。

记住一句话：io.stat 负责告诉你“这个 cgroup 在哪个设备上累计做了多少读写”，吞吐是观察者用两次采样计算出来的结果。只要设备键、字段方向和时间窗口保持一致，读写统计就不会被行顺序或单位误导。

相关问题

• io.stat 的行顺序固定吗？不固定，必须按 MAJ:MIN 键定位。
• rbytes 能直接当作 B/s 吗？不能，它是累计字节数，需要除以采样时间差。
• dbytes 要算进写吞吐吗？不应直接并入，它表示 discard 字节，应单独统计。
• 为什么设备总 IO 和 cgroup io.stat 不一致？两者统计范围不同，前者可能是设备全局计数，后者是指定 cgroup 的归属统计。