Go HTTP 延迟分析：拆解接口 P99 的主要来源

接口慢不等于代码慢。一次 HTTP 请求包含排队、路由、中间件、下游调用、业务计算、序列化和网络写回。要优化 P99，先把总耗时拆成阶段。

阶段化埋点

在 handler 入口、下游前后、序列化前后和写回后记录耗时。不要只打一个总耗时，否则无法判断慢在数据库、HTTP 下游还是编码。

区分平均和尾延迟

平均耗时下降不代表用户体验变好。优化目标通常是 P95/P99 和超时率，尤其是批量接口和聚合接口。

链路预算要一致

入口 timeout、下游 timeout、连接池等待和重试预算要互相匹配。否则某一层优化会被另一层排队抵消。

生产场景

适用于线上 P99 抖动、超时率上升但单个函数 profile 不明显的接口。

关键指标

• handler、downstream、marshal、write 分段耗时
• P95/P99 与超时率
• 连接池等待和重试次数

常见误区

• 只看平均耗时
• 总耗时指标没有阶段标签
• 下游慢时继续增加重试

代码示例

start := time.Now()
record("handler.begin")
result, err := svc.Query(ctx, req)
record("downstream.done")
_ = json.NewEncoder(w).Encode(result)

上线检查

• 优化前后必须保留同一条件下的 benchmark 或 profile。
• 至少观察 P95/P99、错误率、CPU、内存和 GC 指标。
• 如果改动影响热路径，必须准备灰度和回滚方案。