Go 背压与吞吐保护：稳定 P99 的限流和队列策略

性能优化的目标不是跑出一次最高 QPS，而是在持续压力下保持稳定延迟和可恢复性。背压能让系统在超出能力时显式变慢、拒绝或降级。

吞吐要有上限

如果入口无限接收，下游连接池、队列和内存会先被打满。限流和有界队列是把压力显式化的工具。

队列不是越长越好

队列越长，等待时间越不可控。用户请求通常宁可快速失败，也不要排队到超时。

保护 P99

峰值 QPS 上去但 P99 爆炸，不是优化成功。上线前要同时观察吞吐、错误率、超时率和资源回落。

生产场景

适用于高峰流量、后台任务堆积、依赖限额固定和需要稳定 P99 的 API。

关键指标

• QPS、P99、429/503 数量
• 队列长度和等待时间
• 流量回落后的资源恢复时间

常见误区

• 只追求峰值 QPS
• 队列容量不可解释
• 内部繁忙不反馈给入口

代码示例

select {
case jobs 

上线检查

• 优化前后必须保留同一条件下的 benchmark 或 profile。
• 至少观察 P95/P99、错误率、CPU、内存和 GC 指标。
• 如果改动影响热路径，必须准备灰度和回滚方案。