AI 代理怎样记录工具调用链路和失败原因
AI 代理出了问题,单看“模型调用失败”通常不够。真正需要回答的是:代理先做了哪次判断、调用了哪个工具、工具参数是否被拒绝、下游接口是否超时,以及失败有没有被重试或改走备用路径。一个实用的做法,是把代理请求建成一棵 Trace 树,用 Span 表示有持续时间的操作,用事件表示操作中的瞬时状态变化,再用统一的调用 ID 串起模型、工具和下游服务。
OpenTelemetry 的 GenAI 语义约定已经把代理调用、工具执行、工具名称、工具调用 ID 等概念放进同一套观测模型。官方资料入口可以直接复制:https://opentelemetry.io/docs/。本文只聚焦工具调用链路和失败原因,不讨论某个模型厂商的 SDK 封装。
先把代理请求建成一棵 Trace 树
建议把一次用户请求当作根操作 invoke_agent,每轮模型交互建立一个 chat 子 Span,每次真正执行工具建立一个 execute_tool 子 Span。如果工具又访问 HTTP 服务或数据库,就让对应客户端 Span 继续挂在工具 Span 下面。这样在追踪页面里可以直接看到“代理决定调用工具”与“工具调用下游失败”之间的父子关系。
| 层级 | 建议的操作名 | 主要回答的问题 |
|---|---|---|
| 代理请求 | invoke_agent | 哪次会话最终失败或变慢? |
| 模型交互 | chat | 模型哪一轮产生了工具调用? |
| 工具执行 | execute_tool | 哪个工具、哪一次调用出错? |
| 下游操作 | HTTP、RPC 或数据库客户端 Span | 工具内部卡在什么依赖上? |

不要为每一条普通日志都创建 Span。Span 适合表达有开始和结束的操作;同一工具执行中的“开始重试”“参数被拒绝”“回退备用服务”等瞬时变化,用事件更合适。
给每次工具调用补齐可检索字段
工具 Span 至少应能回答四件事:调用了什么、属于哪次会话、传入的调用是哪一个、结果大致是什么。可以优先记录 gen_ai.operation.name=execute_tool、gen_ai.tool.name、gen_ai.tool.call.id、gen_ai.conversation.id,再按需要补充模型名、代理版本、重试次数和结果类型。
参数和结果很容易携带个人信息、访问令牌或业务数据。不要默认把完整 JSON 塞进 Span。更稳妥的默认值是记录字段名、参数摘要、长度、脱敏后的枚举值或不可逆关联标识;只有在受控环境中,才对指定字段开启内容采集,并设置大小上限。
# 这些字段用于定位调用,不把用户原始问题和令牌写入遥测
span.set_attribute("gen_ai.operation.name", "execute_tool")
span.set_attribute("gen_ai.tool.name", tool_name)
span.set_attribute("gen_ai.tool.call.id", call_id)
span.set_attribute("gen_ai.conversation.id", conversation_id)
span.set_attribute("agent.retry_count", retry_count)
span.set_attribute("agent.input_keys", ",".join(sorted(safe_input_keys)))
如果你的 SDK 版本对 GenAI 语义约定的支持还不完整,也可以先使用同样稳定的自定义字段,但要把字段名、类型、脱敏规则写成团队约定,后续再映射到官方语义字段。
用事件记录重试、拒绝和失败原因
一个工具调用可能经历多次重试,但它仍然是同一个有明确开始和结束的操作。因此,工具本身用一个 Span 表示,重试过程用带时间戳的事件表示。例如 tool.retry 记录第几次重试和退避毫秒数,tool.rejected 记录业务校验拒绝,tool.completed 记录结果类型。
如果异常在 Span 结束时仍未处理,OpenTelemetry 的异常约定建议记录名为 exception 的事件,并补充 exception.message、exception.stacktrace、exception.type;同时把 Span 状态设为 ERROR。这样既能按错误类型聚合,也能在 Trace 中看到失败发生的时间点。

业务拒绝与系统异常不要混为一谈。例如参数缺少必填字段,是工具可以预期处理的业务分支;下游服务连接超时,则更像依赖异常。前者可以记录 tool.rejected 和拒绝原因,是否标记为 ERROR 取决于它在你的业务中是否代表操作失败;后者通常应记录异常并将工具 Span 设为 ERROR。
在工具封装层统一落地
把埋点放在每个工具函数内部,会很快出现字段不一致、异常漏记和重试逻辑各写一套的问题。更容易维护的方式,是在工具注册表外包一层统一执行器:进入时创建 Span,执行前写入安全字段,失败时记录异常,退出时结束 Span。
from opentelemetry import trace
from opentelemetry.trace import Status, StatusCode
# 统一的执行器让所有工具共享同一套字段和错误处理规则
tracer = trace.get_tracer("agent-runtime")
def execute_tool(tool_name, call_id, conversation_id, arguments, registry):
# 只保留允许进入遥测的键名,避免原始参数泄露
safe_keys = sorted(k for k in arguments if k in {"city", "query", "limit"})
with tracer.start_as_current_span("execute_tool") as span:
span.set_attribute("gen_ai.operation.name", "execute_tool")
span.set_attribute("gen_ai.tool.name", tool_name)
span.set_attribute("gen_ai.tool.call.id", call_id)
span.set_attribute("gen_ai.conversation.id", conversation_id)
span.set_attribute("agent.input_keys", ",".join(safe_keys))
try:
# 工具实现只负责业务,父 Span 自动承接当前上下文
result = registry[tool_name](**arguments)
span.add_event("tool.completed", {"result.type": type(result).__name__})
return result
except Exception as exc:
# 异常事件保留类型、消息和堆栈,便于在链路中定位失败点
span.record_exception(exc)
span.set_attribute("error.type", type(exc).__name__)
span.add_event("tool.failed", {"retryable": False})
span.set_status(Status(StatusCode.ERROR, str(exc)))
raise
示例故意没有记录 arguments 和 result 原文。若确实需要调试某个字段,应先定义允许采集的字段清单、脱敏策略、最大长度和保存期限,再通过配置开关启用。
按调用链排查而不是只搜错误日志
出现“代理回答失败”时,可以按下面顺序排查:
- 先从
invoke_agent根 Span 确认会话 ID、总耗时和最终状态。 - 沿子 Span 找到产生工具调用的
chat,核对模型是否选择了预期工具。 - 用
gen_ai.tool.call.id定位对应的execute_tool,查看工具名、重试事件和错误类型。 - 如果工具 Span 下面还有 HTTP 或数据库 Span,继续看超时、返回码或连接错误,判断故障属于工具逻辑还是下游依赖。
- 最后对照
tool.rejected、tool.failed和exception事件,确认是业务规则拒绝、可重试失败,还是未处理异常。
这套链路比“在每个函数里打印一行 error”多了一个关键能力:它能把模型的决定、工具执行和依赖故障放在同一个上下文里比较。日志仍然有用,但应通过 Span 上下文关联,而不是让排障者手工拼接时间戳。
常见问题与采用边界
工具参数要不要全部记录?
默认不要。工具参数可能包含个人信息、业务机密或令牌。先记录键名、长度、枚举值和调用 ID,只有经过数据治理批准的字段才采集内容。
一次重试要不要创建一个新 Span?
如果重试仍属于同一次工具操作,通常保留一个工具 Span,并为每次尝试增加事件;只有重试本身跨越独立的远程操作边界时,才考虑创建子 Span。
业务拒绝也一定要标记 ERROR 吗?
不一定。是否是错误取决于调用方的业务语义:预期的参数校验分支可以保持正常状态并记录拒绝事件;如果它导致本次代理任务无法完成,则应把失败状态向上反映。
应该先接入哪一层?
先接入代理入口和工具统一执行器,再接入工具内部的 HTTP、RPC 或数据库客户端。先让链路完整,再逐步增加内容采集,比较容易控制成本和敏感数据风险。
小结
AI 代理的可观测性重点不是多打印几行日志,而是让一次工具调用具备清晰的父子关系、稳定的调用标识和结构化的失败事件。用 invoke_agent 统领请求,用 chat 和 execute_tool 拆出模型与工具边界,用 exception 事件记录未处理异常,再通过脱敏和采样控制数据风险,就能更快回答“哪一步失败、为什么失败、是否可以重试”。
官方资料:
https://opentelemetry.io/docs/https://opentelemetry.io/docs/specs/otel/trace/exceptions/https://opentelemetry.io/docs/specs/semconv/general/events/https://opentelemetry.io/blog/2026/genai-observability/
Ollama API 怎样流式读取模型响应
- 上一篇
- Ollama API 怎样流式读取模型响应
- 下一篇
- Gemini API 怎样为工具参数提供枚举约束
-
- 科技周边 · 人工智能 | 59分钟前 | python · 异步任务 · gemini · 批处理 · JSONL Batch API Gemini API 离线生成 google-genai
- Gemini API Batch 怎样处理大量离线生成请求
- 486浏览 收藏
-
- 科技周边 · 人工智能 | 1小时前 | enum 工具调用 Gemini API Function Calling FunctionDeclaration
- Gemini API 怎样为工具参数提供枚举约束
- 322浏览 收藏
-
- 科技周边 · 人工智能 | 1小时前 |
- Ollama API 怎样流式读取模型响应
- 167浏览 收藏
-
- 科技周边 · 人工智能 | 1小时前 | 并发控制 · 并发请求 vLLM 推理服务 OpenAI兼容服务
- vLLM OpenAI 兼容服务怎样限制并发请求
- 392浏览 收藏
-
- 科技周边 · 人工智能 | 1小时前 |
- RAG 应用怎样用检索评估区分召回和生成问题
- 476浏览 收藏
-
- 科技周边 · 人工智能 | 1小时前 |
- OpenTelemetry OTTL 怎样按条件修改日志属性
- 172浏览 收藏
-
- 科技周边 · 人工智能 | 1小时前 | go · 可观测性 · Go OpenTelemetry OTLP otelc 编译期插桩
- OpenTelemetry Go 编译期插桩怎样接入服务
- 348浏览 收藏
-
- 科技周边 · 人工智能 | 1小时前 |
- Gemini API 内置 URL Context 怎样处理网页资料
- 204浏览 收藏
-
- 科技周边 · 人工智能 | 1小时前 |
- Gemini Interactions API 怎样保存多轮会话状态
- 187浏览 收藏
-
- 科技周边 · 人工智能 | 1小时前 |
- Gemini API 函数调用怎样串联多个工具
- 265浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 855次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 859次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 938次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 914次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 744次使用
-
- Go slog 生产实践:日志别只会打印 error,要能帮你排障
- 2026-06-01 143浏览
-
- Go slog 如何给每条日志补 request_id:WithAttrs 与 Handler 包装的边界
- 2026-08-24 147浏览
-
- Go slog 如何按级别过滤日志:HandlerOptions、日志级别与测试验证
- 2026-08-24 228浏览
-
- Go slog.Handler 如何按请求动态降噪:日志级别与上下文字段的取舍
- 2026-08-25 500浏览
-
- Go expvar.Publish 如何注册运行时指标:变量类型、并发读取与 debug/vars 输出
- 2026-08-29 302浏览

