当前位置:首页 > 文章列表 > 科技周边 > 业界新闻 > Kubernetes v1.37 etcd RangeStream 大列表如何降低内存

Kubernetes v1.37 etcd RangeStream 大列表如何降低内存

来源:17golang原创 2026-09-13 10:36:23 0浏览 收藏

Kubernetes 控制面在大集群启动或 watch cache 重新初始化时,最怕一次性读取大量对象:etcd 先拼出完整的 Range 响应,API Server 又要暂存并解码,峰值会同时落在两端。Kubernetes v1.37 把 etcd RangeStream 提升为 Beta,配合 etcd v3.7+ 后,集合会按分块流式返回,能降低大列表读取的瞬时内存占用。关键不是给业务对象加一个参数,而是确认版本、代理和指标三件事。

官方资料:https://kubernetes.io/blog/2026/09/01/kubernetes-v1-37-etcd-range-stream/

要点速览
  • 前提是 Kubernetes v1.37+、etcd v3.7+,并且中间代理不要吞掉 RangeStream 能力。
  • EtcdRangeStream 在 v1.37 的 kube-apiserver 中默认开启,不需要为了“启用”而重复改参数。
  • 流式读取使用自适应分块,并在同一 revision 上完成读取,不等于把整批对象重新收集到内存。
  • operation="listStream" 的指标确认路径;计数为零时再查版本、代理和 feature gate。

大列表为什么会把内存峰值推高

旧的 unary Range 调用要先在 etcd 侧组成完整响应,再通过 gRPC 发给 API Server。大量对象同时存在于原始键值、序列化 protobuf 和发送缓冲区中,API Server 接收后还要解码并填充 watch cache。分页只能把一次请求切小,单页对象大小仍可能差异很大;而且每页的总数计算也会带来额外扫描成本。

RangeStream 的改变是服务端按块返回结果,API Server 读到一块就处理一块。每个块包含不重复的键值,所有块使用同一个 revision,因此不会因为流持续时间较长就把后续写入混进同一份快照。它解决的是读取过程的峰值和可预测性,不是删除对象、压缩数据库或替 API Server 解决所有内存问题。

Kubernetes v1.37 大列表读取中 etcd Range 与 RangeStream 的内存缓冲关系示意
图1:大列表读取的结构示意图;左侧是完整 Range 响应在 etcd 与 API Server 两端重叠缓冲,右侧是按块传输并逐块解码的 RangeStream。

先核对 v1.37、etcd v3.7 和代理能力

部署判断可以按下面的顺序做。Kubernetes v1.37 是 API Server 侧的接入版本,etcd v3.7 才提供对应的 RangeStream RPC;如果使用 etcd gRPC proxy 或其他兼容后端,还要单独确认它是否实现该 RPC。官方 etcd API 文档明确说明,RangeStream 不支持自定义排序、revision 过滤器,也不支持通过 gRPC proxy 转发。

检查项期望结果不满足时的含义
kube-apiserverv1.37 或更高没有这条集成路径
etcdv3.7 或更高API Server 会回退到分页 Range
feature gateEtcdRangeStream=true 或默认开启会主动使用旧读取路径
代理/后端能转发 RangeStream,或正确返回 Unimplemented可能出现兼容异常,需要停用开关

默认开关不必乱改,异常时再显式回退

v1.37 中 EtcdRangeStream 为 Beta 且默认开启。正常升级时,先检查现有参数是否把它关闭即可,不要为了追求“启用”而重复添加一串 feature gate。只有 etcd 兼容后端无法正确处理流式 RPC,或者观察到代理层异常时,才在 kube-apiserver 参数中明确关闭:

# 只在兼容后端无法正确回退时使用;正常 v1.37 默认开启
--feature-gates=EtcdRangeStream=false

原生 etcd 版本过低时,API Server 会识别 gRPC 的 Unimplemented 并自动回到分页读取,行为不会因为一次升级就突然改变。关闭开关会牺牲流式读取的内存收益,但适合用来隔离代理问题。调整控制面参数前应保留原启动配置,并按集群发行版的方式滚动更新。

Kubernetes EtcdRangeStream feature gate 与 listStream 指标确认关系示意
图2:启用条件与确认信号示意图;版本和开关决定是否尝试 RangeStream,etcd_request_duration_seconds 的 listStream 标签用于判断实际路径。

用 listStream 指标确认流式读取已经发生

不要只看启动参数判断成功。Kubernetes 官方运维文档建议观察 etcd 请求指标中的 operation="listStream"。可以把下面的 PromQL 放进控制面观测面板:

# 查询流式列表请求的累计次数;用于确认实际请求路径
sum(etcd_request_duration_seconds_count{operation="listStream"})

计数非零,说明 API Server 至少已经走过 RangeStream 路径;计数长期为零,优先排查 etcd 是否仍为 v3.6 或更早版本、代理是否不支持该 RPC,以及 feature gate 是否被关闭。已有按 operation="list" 匹配的面板和告警也要同步纳入 listStream,否则升级后可能漏掉新的请求类型。

上线时要把收益和边界一起验收

建议先在非生产控制面观察一次 watch cache 初始化或资源列表恢复过程,记录 etcd 与 API Server 的峰值、持续时间和 listStream 变化,再安排滚动升级。RangeStream 的快照 revision 会在流开始时固定;如果流期间该 revision 已被 compaction,API Server 会把它当作 cache 初始化失败并重试,这不是把 compaction 变成永久故障。

验收重点是“是否减少读取峰值、是否保持列表结果一致、是否能回退”。它不会替代 etcd 备份、碎片整理、容量规划,也不会自动降低对象数量。对于不支持排序或 revision 过滤的直接 etcd 客户端调用,继续使用普通 Range 或按业务限制读取,不要把 etcdctl get --stream 当成所有查询的无条件替代。

相关问题

只有升级 Kubernetes v1.37,不升级 etcd 可以吗?

可以继续工作,但 etcd 低于 v3.7 时无法提供 RangeStream,API Server 会回退到分页 Range,因此不会得到这项流式读取的收益。

为什么 listStream 指标还是零?

常见原因是 etcd 版本过低、代理不支持该 RPC、feature gate 被关闭,或当前还没有触发对应的大列表读取。应结合 API Server 参数和 etcd 支持情况判断。

RangeStream 会不会让列表结果前后不一致?

正常完成的流会固定同一 revision,并按块拼出与 Range 相同的结果集。流中遇到 compaction 或其他错误时,API Server 会按 cache 初始化失败处理,而不是提交半份结果。

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
Go unicode/utf8 如何控制字节边界Go unicode/utf8 如何控制字节边界
上一篇
Go unicode/utf8 如何控制字节边界
Go jsonnull 如何限定字段范围
下一篇
Go jsonnull 如何限定字段范围
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    111次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    31次使用
  • OpenCompass大模型评测体系详解:功能、使用指南与应用场景
    OpenCompass
    OpenCompass是上海AI实验室推出的开源大模型评测平台,提供CompassKit、CompassHub和CompassRank三大核心组件,支持LLM及多模态模型的一站式标准化评估与排行榜查询。
    49次使用
  • AGI-Eval大模型评测平台:权威榜单、数据集与人机协同评测方案
    AGI-Eval
    AGI-Eval是由上海交大等高校联合发布的大模型评测社区,提供公正透明的LLM能力榜单、多领域评测集及Data Studio数据服务,助力AI模型性能评估与NLP科研开发。
    30次使用
  • SuperCLUE中文大模型评测基准:功能、能力维度与应用指南
    SuperCLUE
    SuperCLUE是权威的中文大语言模型综合评测基准,涵盖语言理解、知识应用、AI Agent智能体及安全性等12项核心能力。通过多轮对话与客观测试,定期发布榜单与技术报告,为模型研发、优化及行业选型提供科学依据。
    265次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议隐私政策
返回登录
  • 重置密码