MCP 资源与工具描述的缓存更新策略
MCP 资源与工具描述要缓存,但不能只设一个固定过期时间。更稳妥的策略是:按请求方法和影响结果的参数建立缓存键,用 ttlMs 控制按需新鲜度,用 cacheScope 隔离授权上下文;同时订阅工具列表、资源列表和指定资源的变更通知,收到通知立即把对应条目标为陈旧,再在下一次需要时重新获取。
MCP 官方地址:https://modelcontextprotocol.io/
我是在做一个多服务器聚合器时真正踩到这个问题的:为了减少每次对话前的请求,我把工具列表和资源目录一起缓存了五分钟。延迟确实降了,但服务器替换了一个工具的输入 schema 后,模型还在按旧描述构造参数;另一边,资源正文已经更新,资源目录却根本没变化。那时我才意识到,“描述缓存”并不是一个缓存,而是至少三类生命周期不同的对象。
问题不只是 TTL 太长
出现旧工具、旧资源时,第一反应通常是缩短 TTL。这样能缩短陈旧窗口,却会把所有请求都推向服务器,而且仍然无法保证变更发生后立刻生效。真正需要先确认的是:
- 缓存的是
tools/list、resources/list,还是具体 URI 的resources/read; - 列表是否经过权限过滤,不同令牌看到的集合是否相同;
- 服务器是否声明
listChanged或资源订阅能力; - 客户端是否真的打开了
subscriptions/listen并请求对应通知; - 分页结果是否被当成一个整体缓存,游标失效后是否从首页重建。
当前 MCP 2026-07-28 规范已经把缓存提示写进协议。tools/list、resources/list、resources/templates/list 和 resources/read 的完整结果都带有 ttlMs 与 cacheScope。因此客户端不必再为所有服务器猜一个统一时长。
先拆成三类缓存

| 缓存对象 | 建议缓存键 | 主要失效信号 | 典型风险 |
|---|---|---|---|
tools/list | 方法、分页游标、授权分区、服务器身份 | notifications/tools/list_changed 或 TTL 到期 | 旧 description、旧 inputSchema、已下线工具仍进入模型上下文 |
resources/list | 方法、分页游标、授权分区、服务器身份 | notifications/resources/list_changed 或 TTL 到期 | 资源增删或可见范围变化没有反映 |
resources/read | 方法、完整 URI、授权分区、服务器身份 | 对应 URI 的 notifications/resources/updated 或 TTL 到期 | 资源正文已变,但列表仍稳定 |
缓存键不能只用服务器地址。规范要求方法和影响结果的请求参数共同识别缓存响应:resources/read 至少要包含 URI,分页列表要包含 cursor。对 private 结果,还要把授权上下文纳入分区;不同访问令牌或不同主体之间不能共享。
工具列表也可能随请求所带授权而变化。一个用户只看到只读工具,另一个用户能看到写入工具,这种列表就不能标成 public。服务器即使位于认证端点,只要发出 public,缓存层就可能把结果共享给其他调用方,所以范围配置必须比“有没有登录”更谨慎。
ttlMs 是新鲜度提示,不是轮询闹钟
ttlMs 表示客户端在多长时间内可以把结果视为新鲜。值为 0 时立即陈旧;正值表示从接收响应那一刻起计算的新鲜窗口。它不是服务器承诺“期间绝不会变化”,也不应该直接变成固定后台轮询间隔。
更合适的客户端行为是惰性重取:用到某个条目时先检查本地接收时间加 ttlMs,仍新鲜就复用,已过期才向服务器请求。若确实需要主动轮询,应增加抖动和退避,避免大量客户端同时刷新。
我通常把 TTL 看成通知机制的兜底,而不是替代品。稳定、所有用户一致的工具目录可以有较长 TTL;权限过滤的资源目录使用 private 分区;频繁变化的资源正文则给较短 TTL,并尽量订阅指定 URI。这样既减少请求,也把陈旧窗口限制在可解释范围内。
通知只负责失效,重新拉取负责恢复

在 2026-07-28 规范中,服务器声明工具或资源的 listChanged 能力后,客户端仍需打开 subscriptions/listen,并在通知过滤条件中选择 toolsListChanged 或 resourcesListChanged。指定资源内容更新则通过 resourceSubscriptions 列出 URI,服务器在对应流上发送 notifications/resources/updated。
这些通知应被当作“缓存已经不可信”的电铃,而不是新数据本身。收到工具列表变化通知时,将该服务器与授权分区下的 tools/list 分页全部标记陈旧;收到资源列表变化通知时,对资源目录执行同样处理;收到指定 URI 的更新通知时,只失效该 URI 对应的 resources/read 条目。真正的新描述、新 schema 或新正文仍从下一次 list/read 响应取得。
通知负责缩短陈旧窗口,TTL 负责通知缺失时的最终恢复;两者同时使用,不能互相替代。
分页缓存最容易留下半新半旧的视图
MCP 允许列表分页,每一页都是独立可缓存响应,也有自己的 ttlMs。这意味着第一页可能仍新鲜,末页已经过期。规范不提供跨页一致性保证,底层集合在翻页期间变化时,客户端可能看到重复项或缺口。
如果只是给用户做渐进式浏览,可以按页刷新;如果要把完整工具集合送进模型上下文,我更倾向于把一次完整遍历视为同一代快照。只要发生以下任一情况,就丢弃该列表的所有缓存页并从无 cursor 的第一页重新获取:
- 收到相应的
list_changed通知; - 此前有效的 cursor 被服务器拒绝;
- 关键工具调用返回“方法不存在”或参数 schema 明显不匹配;
- 客户端需要一个一致的完整集合,而分页期间检测到底层目录变化。
同一个分页列表的各页必须使用相同 cacheScope。如果第一页是 private,后续页也必须是 private;客户端不要因为某一页看起来不含敏感字段,就把它单独提升为共享缓存。
断线和旧服务端要有退路
并非所有服务端都会声明变更能力,也不是每条通知流都能永久保持。未提供通知时,完全依赖 TTL 是规范允许的;监听流异常关闭后,客户端应重建监听,并保留 TTL 到期后的按需刷新。重新连接期间可以在短时故障下服务旧缓存,但要明确标记为 stale,并避免把旧 schema 当成不可疑的调用依据。
协议版本也要进入兼容策略。2026-07-28 使用 subscriptions/listen 选择通知类型;较早实现可能仍采用旧订阅机制。客户端应根据协商或请求元数据识别版本,不要把新版通知假设硬套到旧服务端,也不要因为旧服务端没有新版字段就永久缓存结果。缺少 ttlMs 时,当前规范建议按 0 处理,也就是默认立即陈旧。
我最后采用的缓存规则
- 缓存键由服务器身份、方法、所有影响结果的参数和授权分区组成。
public仅用于所有调用方完全一致的结果;其他情况一律按private分区。- TTL 到期时按需重取,不把 TTL 直接当轮询周期。
- 通知到达时立即标陈旧,但把批量重取合并到一次去抖任务,避免变更风暴。
- 列表通知清除该列表的全部分页;资源更新只清除目标 URI 的读取结果。
- 模型每次生成前使用同一代工具目录,避免一轮推理中途替换 schema。
- 工具调用出现不存在或参数无效时,允许在 TTL 内提前刷新一次描述,再决定是否重试。
这套策略的代价是缓存实现不再只有一个 map,但收益很直观:工具描述变化能快速生效,资源正文更新不会误伤整个目录缓存,权限隔离也更清楚。对只接一个静态 MCP 服务的小客户端,完整实现可能偏重;对聚合多个服务、多人共享网关或把工具清单长期放进模型上下文的系统,这些边界很值得提前做。
复查时看哪些指标
- 按方法命中率:分开观察
tools/list、resources/list和resources/read,不要只看总命中率。 - 通知到失效延迟:收到通知后多久把条目标为陈旧,是否有跨进程广播遗漏。
- 陈旧命中次数:在重取失败时服务了多少 stale 结果,持续时间多长。
- 强制整表重建次数:分页 cursor 失效、工具不存在或 schema 不匹配是否频繁发生。
- 权限分区数量:防止授权主体过多导致缓存无限膨胀,同时不能合并不同权限上下文。
- 通知风暴合并率:短时间内多次变更是否只触发一次实际重取。
常见问题
有 list_changed 通知后,还需要 ttlMs 吗?
需要。通知可能因为客户端离线、监听流中断或服务端未实现而缺失,TTL 是最终恢复机制;反过来,通知能在 TTL 未到期时立即使缓存陈旧。
工具 description 只是文案,为什么要及时更新?
工具描述、输入 schema 和注解都会影响模型选择工具与构造参数。继续使用旧列表,可能让模型调用已删除工具,或按旧字段发送请求,因此它属于运行契约的一部分。
resources/list 变化是否意味着所有资源正文都要清空?
不必机械清空。列表变化说明目录集合需要重新获取;具体资源正文应按 URI 的更新通知或自身 TTL 失效。若 URI 被删除,再移除对应正文缓存即可。
可以把 tools/list 标成 public 吗?
只有在所有授权上下文看到完全相同工具集合和描述时才合适。只要工具会按用户、租户或 scope 过滤,就应使用 private,并按授权上下文隔离。
官方资料
- MCP Tools 规范:
https://modelcontextprotocol.io/specification/2026-07-28/server/tools - MCP Resources 规范:
https://modelcontextprotocol.io/specification/2026-07-28/server/resources - MCP Caching 规范:
https://modelcontextprotocol.io/specification/2026-07-28/server/utilities/caching - 2026-07-28 版本说明:
https://blog.modelcontextprotocol.io/posts/2026-07-28/
文件符号链接在不同系统上的打开差异
- 上一篇
- 文件符号链接在不同系统上的打开差异
- 下一篇
- os.Root 迁移临时文件处理代码的步骤
-
- 科技周边 · 人工智能 | 2小时前 |
- MCP 服务端授权范围与会话隔离的配置
- 161浏览 收藏
-
- 科技周边 · 人工智能 | 2小时前 |
- MCP 工具结果分页与长列表截断的设计
- 486浏览 收藏
-
- 科技周边 · 人工智能 | 4小时前 | 人工智能 · chat template apply_chat_template AI tokenizer 多模型消息格式
- AI tokenizer chat template 统一多模型消息格式
- 154浏览 收藏
-
- 科技周边 · 人工智能 | 9小时前 |
- RAG 文档切块按标题层级保留语义边界
- 300浏览 收藏
-
- 科技周边 · 人工智能 | 21小时前 | 人工智能 · rag · 语义检索重排器 第二阶段重排 Cross-Encoder Retrieve and Re-Rank Recall@K
- 语义检索重排器何时值得加入第二阶段
- 449浏览 收藏
-
- 科技周边 · 人工智能 | 1天前 | 缓存 · 人工智能 · 提示词工程 · 提示词缓存 cache_control Prompt Caching 静态前缀 cache_read_input_tokens
- 提示词缓存命中率低应如何划分静态前缀
- 453浏览 收藏
-
- 科技周边 · 人工智能 | 1天前 |
- 模型路由怎样按任务难度分配不同推理预算
- 232浏览 收藏
-
- 科技周边 · 人工智能 | 1天前 |
- 结构化输出遇到递归字段时怎样约束模式
- 215浏览 收藏
-
- 科技周边 · 人工智能 | 1天前 | 人工智能 · 工具调用 ·
- 智能体工具调用失败后怎样设计可控重试
- 236浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 408次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 484次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 493次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 439次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 266次使用
-
- 本地大模型反复输出同一句话怎么调整生成参数
- 2026-09-06 501浏览
-
- Python 调用大模型时如何用结构化输出校验 JSON:从解析失败到可重试
- 2026-08-29 501浏览
-
- AI写作工具免费版安装教程(含豆包Clawdbot)
- 2026-05-30 501浏览
-
- WPS AI能自动生成PPT吗?输入主题一键制作演示文稿
- 2026-05-27 501浏览
-
- Canva手机闪退解决方法及适配指南
- 2026-05-25 501浏览

