当前位置:首页 > 文章列表 > 科技周边 > 人工智能 > AI Agent 工具超时后怎样保留可恢复状态

AI Agent 工具超时后怎样保留可恢复状态

来源:17golang原创 2026-10-18 11:38:18 0浏览 收藏

AI Agent 工具调用超时后,应保存“这次调用做了什么、远端是否可能已经执行、下次应该查什么”,而不只是把聊天记录写到文件。对于有副作用的工具,超时先记为 unknown,恢复时优先查询同一业务操作;没有可靠证据时停止自动重试。

要改变的是工具适配层的状态约定,不是给模型再加一句“失败就继续”。下面给出一套自定义恢复协议,不是某个框架新发布的功能。以 smolagents 为例,其官方入口为 https://huggingface.co/docs/smolagents/index;本文的字段和恢复函数并非该库的内置 API。

把超时从失败状态里拆出来

假设工具负责创建一份测试报告。服务端可能已经接受任务,但客户端没有在限时内收到回执。此时“等待失败”与“报告创建失败”是两件事。若把二者都记成 failed,并让 Agent 自动重新调用,就可能创建重复报告。

Python 的 asyncio.wait_for 超时会取消所等待的对象并抛出 TimeoutError,但取消过程本身也可能耗时。这说明本地等待和取消有明确语义,不说明远端业务已回滚。HTTP 连接断开、协程取消与远端提交状态之间,仍需要业务协议补上证据。

本例建议至少保留四种状态:planned 表示仅有调用意图;pending 表示已进入可能发送的边界;unknown 表示结果未决;succeeded 表示已有可靠成功回执。确定的拒绝可以单独记为 rejected,但不要用超时推断它。状态改变必须保留依据,而不是由模型凭回答文字猜测。

在调用前保存最小恢复记录

给每一次业务意图生成稳定的 operation_id,并保存调用输入的引用 input_ref。同一操作因超时进入恢复时,不换业务标识、不偷偷改参数。工具版本 tool_version 也一起保存,防止恢复程序用新版字段解释旧输入。

下面是一次超时后的记录示意,严格 JSON 不含注释;这些字段由业务系统定义:

{
  "schema_version": 1,
  "run_id": "run-demo",
  "operation_id": "op-report-001",
  "tool_name": "create_report",
  "tool_version": "v1",
  "input_ref": "inputs/report-001.json",
  "state": "unknown",
  "attempt": 1,
  "remote_job_id": null,
  "result_ref": null,
  "resume_action": "query_or_review"
}

remote_job_id 为空表示没有拿到远端任务号,不表示远端没有任务。result_ref 是可复用结果或回执的受控引用,resume_action 是恢复标记,不是已执行动作。attempt 记录本地尝试次数;它不能代替稳定的业务标识。

在真正发请求前,把意图和输入落到可靠存储;跨过发送边界前先持久化 pending。这样即使进程在发出请求后、记录超时前崩溃,下次仍能找到未决项。单机文件可用临时文件加原子替换降低半写风险,但不能把文件重命名宣称为跨系统事务或完整断电保证;多进程服务通常需要事务、唯一约束和持久化配置。

调用身份分组包含 operation_id、input_ref、tool_version,恢复记录分组包含 state、result_ref、resume_action
图1:恢复记录静态结构图;看身份字段与恢复字段之间的约束关系,不表示执行顺序。

超时只改变观察状态,不抹掉未决调用

超时时把本地记录更新为 unknown,保留原输入、业务标识和已经获得的远端任务号。不要在 finally 中清空整条记录,也不要覆盖为“已取消”后丢弃查询线索。若写 unknown 本身失败,恢复端仍应把遗留 pending 当成待核实项,而不是重新发送的许可。

收到成功响应时,要先可靠保存回执和结果引用,再允许依赖它的 Agent 步骤继续。另一个崩溃窗口是“远端成功、回执尚未落盘”,本地数据库不能单独消灭这个窗口。适配层需要用业务标识查询远端,或依赖远端明确承诺的幂等协议;无法确认就保留未知状态。

恢复入口也必须有并发约束。同一个操作只允许一个有效恢复认领者修改,采用事务条件更新和版本号等手段避免旧进程覆盖新结果。租约到期只能说明本地认领可以重新协调,不证明旧远端执行已经停止。对于会持续写入的旧工作进程,还需要业务系统实际支持的隔离或 fencing 约束。

把恢复选择写成确定性策略

恢复调度器读取未决记录,使用 operation_id 或 remote_job_id 查询权威结果。模型可以解释信息,但不能凭“应该失败了”决定重复创建报告。下面的 Python 函数只返回恢复动作,不访问网络、不写存储,也不声称是完整 Agent:

def recovery_action(record, remote_status):
    # 本函数只选择动作,不调用远端、不执行重试;并发认领需在事务中另行完成。
    if record["state"] == "succeeded":
        return "reuse_result"

    # 状态查询必须针对同一业务操作,且查询来源具有权威性。
    if remote_status == "completed":
        return "persist_receipt"
    if remote_status == "running":
        return "poll_later"

    # 超时和查不到记录都不足以证明远端没有执行,默认进入人工确认。
    return "review_required"

persist_receipt 的下一步是获取并保存可验证的远端回执及结果引用,再更新 succeeded;不是看到一个字符串就把任务跳过。poll_later 需要持久化下次查询时间和总体截止预算,不能忙循环。review_required 必须真实阻止自动重发,向操作者说明缺少哪种证据。

本例刻意不自动重试。“未找到”可能来自查询延迟、标识不匹配或服务尚未建立可查记录。如果业务接口确实支持相同幂等键重放,还需要核实键的作用域、保留时长、相同输入约束与并发语义,才能增加受限重试分支。只给 HTTP 请求附加一个自命名请求头,不会自动获得幂等保证。

恢复输入包含未决记录与远端状态,策略边界包含 recovery_action,动作标记包含复用结果、保存回执、延后查询与人工确认
图2:恢复策略静态依赖图;动作标记是决策结果,不是流程箭头或已经执行的日志。

迁移旧调用链时先检查这些场景

原来只有 try/except 的调用层,可以先增加未决记录,再接入恢复调度器,最后把“任何异常直接重试”收窄为有业务证据的分支。以下是应在自己测试环境中构造的场景与预期,不是本文的实测结果:

故障注入场景恢复时应保留的信息预期处理
远端完成但响应丢失同一 operation_id 和输入查询并落回执,不新增业务操作
进程在发送后退出遗留 pending 记录先当未决核实,不视为安全重试
远端仍在运行任务号与查询预算延后查询,不并发启动第二份
两个恢复进程同时启动记录版本和认领信息只有有效认领者写入,旧结果不能覆盖新状态
回执与结果已经持久化succeeded 与 result_ref复用结果,继续下游步骤

保存 memory 就能恢复吗

不能直接画等号。smolagents 的 memory 包含任务、动作、观察和错误,replay 用于查看既往步骤;官方 save 方法说明的是导出 Agent 相关代码与配置。它们不能单独证明远端副作用已经完成,也不能替代业务恢复记录。

超时后可以让用户直接再试一次吗

只有明确知道风险并得到相应授权时才考虑。默认应展示“结果未确认”,保留原操作查询入口;不要把一个无条件重试按钮伪装成无风险的继续。

保存整段工具输出够不够

还要保留结果与哪次输入、哪个版本相对应。只保存自然语言摘要很容易丢失远端任务号或错误边界。敏感输入与回执应限制访问,在恢复记录里尽量存受控引用,而不是凭据全文。

官方资料

smolagents memory:https://huggingface.co/docs/smolagents/tutorials/memory

smolagents 方法定义:https://huggingface.co/docs/smolagents/reference/agents

Python 等待与取消语义:https://docs.python.org/3/library/asyncio-task.html

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
RAG 检索怎样选择 top-k 并避免上下文过长RAG 检索怎样选择 top-k 并避免上下文过长
上一篇
RAG 检索怎样选择 top-k 并避免上下文过长
AI 工具 schema 怎样为函数参数保留版本兼容
下一篇
AI 工具 schema 怎样为函数参数保留版本兼容
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    521次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    578次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    604次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    554次使用
  • MMBench详解:多模态大模型基准测试、功能特点与使用指南
    MMBench
    MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
    375次使用