Kubernetes v1.37 etcd RangeStream 大列表如何降低内存
Kubernetes 控制面在大集群启动或 watch cache 重新初始化时,最怕一次性读取大量对象:etcd 先拼出完整的 Range 响应,API Server 又要暂存并解码,峰值会同时落在两端。Kubernetes v1.37 把 etcd RangeStream 提升为 Beta,配合 etcd v3.7+ 后,集合会按分块流式返回,能降低大列表读取的瞬时内存占用。关键不是给业务对象加一个参数,而是确认版本、代理和指标三件事。
官方资料:https://kubernetes.io/blog/2026/09/01/kubernetes-v1-37-etcd-range-stream/
- 前提是 Kubernetes v1.37+、etcd v3.7+,并且中间代理不要吞掉 RangeStream 能力。
EtcdRangeStream在 v1.37 的 kube-apiserver 中默认开启,不需要为了“启用”而重复改参数。- 流式读取使用自适应分块,并在同一 revision 上完成读取,不等于把整批对象重新收集到内存。
- 用
operation="listStream"的指标确认路径;计数为零时再查版本、代理和 feature gate。
大列表为什么会把内存峰值推高
旧的 unary Range 调用要先在 etcd 侧组成完整响应,再通过 gRPC 发给 API Server。大量对象同时存在于原始键值、序列化 protobuf 和发送缓冲区中,API Server 接收后还要解码并填充 watch cache。分页只能把一次请求切小,单页对象大小仍可能差异很大;而且每页的总数计算也会带来额外扫描成本。
RangeStream 的改变是服务端按块返回结果,API Server 读到一块就处理一块。每个块包含不重复的键值,所有块使用同一个 revision,因此不会因为流持续时间较长就把后续写入混进同一份快照。它解决的是读取过程的峰值和可预测性,不是删除对象、压缩数据库或替 API Server 解决所有内存问题。

先核对 v1.37、etcd v3.7 和代理能力
部署判断可以按下面的顺序做。Kubernetes v1.37 是 API Server 侧的接入版本,etcd v3.7 才提供对应的 RangeStream RPC;如果使用 etcd gRPC proxy 或其他兼容后端,还要单独确认它是否实现该 RPC。官方 etcd API 文档明确说明,RangeStream 不支持自定义排序、revision 过滤器,也不支持通过 gRPC proxy 转发。
| 检查项 | 期望结果 | 不满足时的含义 |
|---|---|---|
| kube-apiserver | v1.37 或更高 | 没有这条集成路径 |
| etcd | v3.7 或更高 | API Server 会回退到分页 Range |
| feature gate | EtcdRangeStream=true 或默认开启 | 会主动使用旧读取路径 |
| 代理/后端 | 能转发 RangeStream,或正确返回 Unimplemented | 可能出现兼容异常,需要停用开关 |
默认开关不必乱改,异常时再显式回退
v1.37 中 EtcdRangeStream 为 Beta 且默认开启。正常升级时,先检查现有参数是否把它关闭即可,不要为了追求“启用”而重复添加一串 feature gate。只有 etcd 兼容后端无法正确处理流式 RPC,或者观察到代理层异常时,才在 kube-apiserver 参数中明确关闭:
# 只在兼容后端无法正确回退时使用;正常 v1.37 默认开启
--feature-gates=EtcdRangeStream=false
原生 etcd 版本过低时,API Server 会识别 gRPC 的 Unimplemented 并自动回到分页读取,行为不会因为一次升级就突然改变。关闭开关会牺牲流式读取的内存收益,但适合用来隔离代理问题。调整控制面参数前应保留原启动配置,并按集群发行版的方式滚动更新。

用 listStream 指标确认流式读取已经发生
不要只看启动参数判断成功。Kubernetes 官方运维文档建议观察 etcd 请求指标中的 operation="listStream"。可以把下面的 PromQL 放进控制面观测面板:
# 查询流式列表请求的累计次数;用于确认实际请求路径
sum(etcd_request_duration_seconds_count{operation="listStream"})
计数非零,说明 API Server 至少已经走过 RangeStream 路径;计数长期为零,优先排查 etcd 是否仍为 v3.6 或更早版本、代理是否不支持该 RPC,以及 feature gate 是否被关闭。已有按 operation="list" 匹配的面板和告警也要同步纳入 listStream,否则升级后可能漏掉新的请求类型。
上线时要把收益和边界一起验收
建议先在非生产控制面观察一次 watch cache 初始化或资源列表恢复过程,记录 etcd 与 API Server 的峰值、持续时间和 listStream 变化,再安排滚动升级。RangeStream 的快照 revision 会在流开始时固定;如果流期间该 revision 已被 compaction,API Server 会把它当作 cache 初始化失败并重试,这不是把 compaction 变成永久故障。
验收重点是“是否减少读取峰值、是否保持列表结果一致、是否能回退”。它不会替代 etcd 备份、碎片整理、容量规划,也不会自动降低对象数量。对于不支持排序或 revision 过滤的直接 etcd 客户端调用,继续使用普通 Range 或按业务限制读取,不要把 etcdctl get --stream 当成所有查询的无条件替代。
相关问题
只有升级 Kubernetes v1.37,不升级 etcd 可以吗?
可以继续工作,但 etcd 低于 v3.7 时无法提供 RangeStream,API Server 会回退到分页 Range,因此不会得到这项流式读取的收益。
为什么 listStream 指标还是零?
常见原因是 etcd 版本过低、代理不支持该 RPC、feature gate 被关闭,或当前还没有触发对应的大列表读取。应结合 API Server 参数和 etcd 支持情况判断。
RangeStream 会不会让列表结果前后不一致?
正常完成的流会固定同一 revision,并按块拼出与 Range 相同的结果集。流中遇到 compaction 或其他错误时,API Server 会按 cache 初始化失败处理,而不是提交半份结果。
Go unicode/utf8 如何控制字节边界
- 上一篇
- Go unicode/utf8 如何控制字节边界
- 下一篇
- Go jsonnull 如何限定字段范围
-
- 科技周边 · 业界新闻 | 10分钟前 | 云原生 · kubernetes · 版本兼容 · Metrics API · Kubernetes metrics.k8s.io Metrics API v1.37 客户端兼容性
- Kubernetes v1.37 metrics.k8s.io 稳定后客户端兼容性怎么查
- 161浏览 收藏
-
- 科技周边 · 业界新闻 | 2小时前 | 云原生 · kubernetes · HPA · 自动扩缩容 · prometheus Kubernetes HPA 外部指标 v1.37 缩容到零
- Kubernetes v1.37 HPA 缩容到零如何准备外部指标
- 139浏览 收藏
-
- 科技周边 · 业界新闻 | 3小时前 | kubernetes · DRA · ResourceClaim ·
- Kubernetes v1.37 DRA GA 迁移 ResourceClaim 要检查什么
- 488浏览 收藏
-
- 科技周边 · 业界新闻 | 5小时前 | kubernetes · Kubelet · Rootless ·
- Kubernetes v1.37 Rootless Kubelet Beta 节点权限怎么核对
- 313浏览 收藏
-
- 科技周边 · 业界新闻 | 6小时前 | 云原生 · 调度器 · kubernetes · 批处理 · Kubernetes v1.37 工作负载感知调度 gang scheduling 批任务
- Kubernetes v1.37 工作负载感知调度适合哪些批任务
- 427浏览 收藏
-
- 科技周边 · 业界新闻 | 7小时前 |
- Kubernetes v1.37 Node Lifecycle Conditions 怎么读节点状态
- 380浏览 收藏
-
- 科技周边 · 业界新闻 | 8小时前 | 云原生 · 调度 · kubernetes · Pod扩容 · Kubernetes Deferred v1.37 Pod原地扩容 调度器抢占
- Kubernetes v1.37 Pod 原地扩容抢占如何影响调度队列
- 120浏览 收藏
-
- 科技周边 · 业界新闻 | 9小时前 | 云原生 · 监控 · prometheus · kubernetes · prometheus Kubernetes NativeHistograms 原生直方图
- Kubernetes v1.37 原生直方图 Beta 后 Prometheus 兼容点怎么查
- 122浏览 收藏
-
- 科技周边 · 业界新闻 | 11小时前 |
- 开源项目宣布毕业后企业升级流程应先核对什么
- 407浏览 收藏
-
- 科技周边 · 业界新闻 | 12小时前 | 云原生 · kubernetes · CNCF · 行业报告 · 云原生 Kubernetes 采用率 CNCF Survey
- 云原生报告中的调查比例为什么不能直接当作采用率
- 484浏览 收藏
-
- 科技周边 · 业界新闻 | 13小时前 | CI/CD · gitHub actions · GitHub Changelog · 生产流水线 ·
- GitHub Changelog 如何筛选影响生产流水线的变更
- 194浏览 收藏
-
- 科技周边 · 业界新闻 | 14小时前 | opentelemetry · 可观测性 · CNCF · 语义约定 · 指标日志链路 · OpenTelemetry毕业 OpenTelemetry语义约定 指标日志链路统一命名 Semantic Conventions 可观测性字段规范
- OpenTelemetry 毕业后如何规划指标、日志和链路统一命名
- 146浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 111次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 31次使用
-
- OpenCompass
- OpenCompass是上海AI实验室推出的开源大模型评测平台,提供CompassKit、CompassHub和CompassRank三大核心组件,支持LLM及多模态模型的一站式标准化评估与排行榜查询。
- 49次使用
-
- AGI-Eval
- AGI-Eval是由上海交大等高校联合发布的大模型评测社区,提供公正透明的LLM能力榜单、多领域评测集及Data Studio数据服务,助力AI模型性能评估与NLP科研开发。
- 30次使用
-
- SuperCLUE
- SuperCLUE是权威的中文大语言模型综合评测基准,涵盖语言理解、知识应用、AI Agent智能体及安全性等12项核心能力。通过多轮对话与客观测试,定期发布榜单与技术报告,为模型研发、优化及行业选型提供科学依据。
- 265次使用
-
- Go操作Kafka和Etcd方法详解
- 2023-01-07 472浏览
-
- Go chassis云原生微服务开发框架应用编程实战
- 2022-12-29 214浏览
-
- go zero微服务实战性能优化极致秒杀
- 2022-12-27 207浏览
-
- Go操作etcd的实现示例
- 2023-01-01 201浏览
-
- golang对etcd存取和数值监测的实现
- 2022-12-29 321浏览

