当前位置:首页 > 文章列表 > 科技周边 > 人工智能 > AI 代理怎样记录工具调用链路和失败原因

AI 代理怎样记录工具调用链路和失败原因

来源:17golang原创 2026-11-03 07:25:20 0浏览 收藏

AI 代理出了问题,单看“模型调用失败”通常不够。真正需要回答的是:代理先做了哪次判断、调用了哪个工具、工具参数是否被拒绝、下游接口是否超时,以及失败有没有被重试或改走备用路径。一个实用的做法,是把代理请求建成一棵 Trace 树,用 Span 表示有持续时间的操作,用事件表示操作中的瞬时状态变化,再用统一的调用 ID 串起模型、工具和下游服务。

OpenTelemetry 的 GenAI 语义约定已经把代理调用、工具执行、工具名称、工具调用 ID 等概念放进同一套观测模型。官方资料入口可以直接复制:https://opentelemetry.io/docs/。本文只聚焦工具调用链路和失败原因,不讨论某个模型厂商的 SDK 封装。

先把代理请求建成一棵 Trace 树

建议把一次用户请求当作根操作 invoke_agent,每轮模型交互建立一个 chat 子 Span,每次真正执行工具建立一个 execute_tool 子 Span。如果工具又访问 HTTP 服务或数据库,就让对应客户端 Span 继续挂在工具 Span 下面。这样在追踪页面里可以直接看到“代理决定调用工具”与“工具调用下游失败”之间的父子关系。

层级建议的操作名主要回答的问题
代理请求invoke_agent哪次会话最终失败或变慢?
模型交互chat模型哪一轮产生了工具调用?
工具执行execute_tool哪个工具、哪一次调用出错?
下游操作HTTP、RPC 或数据库客户端 Span工具内部卡在什么依赖上?
AI代理从根请求到模型交互、工具执行和下游服务的链路结构图
图1:AI 代理工具调用链路的静态结构图,不是运行截图或执行证据。

不要为每一条普通日志都创建 Span。Span 适合表达有开始和结束的操作;同一工具执行中的“开始重试”“参数被拒绝”“回退备用服务”等瞬时变化,用事件更合适。

给每次工具调用补齐可检索字段

工具 Span 至少应能回答四件事:调用了什么、属于哪次会话、传入的调用是哪一个、结果大致是什么。可以优先记录 gen_ai.operation.name=execute_tool、gen_ai.tool.name、gen_ai.tool.call.id、gen_ai.conversation.id,再按需要补充模型名、代理版本、重试次数和结果类型。

参数和结果很容易携带个人信息、访问令牌或业务数据。不要默认把完整 JSON 塞进 Span。更稳妥的默认值是记录字段名、参数摘要、长度、脱敏后的枚举值或不可逆关联标识;只有在受控环境中,才对指定字段开启内容采集,并设置大小上限。

# 这些字段用于定位调用,不把用户原始问题和令牌写入遥测
span.set_attribute("gen_ai.operation.name", "execute_tool")
span.set_attribute("gen_ai.tool.name", tool_name)
span.set_attribute("gen_ai.tool.call.id", call_id)
span.set_attribute("gen_ai.conversation.id", conversation_id)
span.set_attribute("agent.retry_count", retry_count)
span.set_attribute("agent.input_keys", ",".join(sorted(safe_input_keys)))

如果你的 SDK 版本对 GenAI 语义约定的支持还不完整,也可以先使用同样稳定的自定义字段,但要把字段名、类型、脱敏规则写成团队约定,后续再映射到官方语义字段。

用事件记录重试、拒绝和失败原因

一个工具调用可能经历多次重试,但它仍然是同一个有明确开始和结束的操作。因此,工具本身用一个 Span 表示,重试过程用带时间戳的事件表示。例如 tool.retry 记录第几次重试和退避毫秒数,tool.rejected 记录业务校验拒绝,tool.completed 记录结果类型。

如果异常在 Span 结束时仍未处理,OpenTelemetry 的异常约定建议记录名为 exception 的事件,并补充 exception.message、exception.stacktrace、exception.type;同时把 Span 状态设为 ERROR。这样既能按错误类型聚合,也能在 Trace 中看到失败发生的时间点。

AI代理工具调用中重试、业务拒绝和异常事件的记录关系图
图2:工具执行过程中事件、异常和 Span 状态的关系示意图,不是运行截图或执行证据。

业务拒绝与系统异常不要混为一谈。例如参数缺少必填字段,是工具可以预期处理的业务分支;下游服务连接超时,则更像依赖异常。前者可以记录 tool.rejected 和拒绝原因,是否标记为 ERROR 取决于它在你的业务中是否代表操作失败;后者通常应记录异常并将工具 Span 设为 ERROR。

在工具封装层统一落地

把埋点放在每个工具函数内部,会很快出现字段不一致、异常漏记和重试逻辑各写一套的问题。更容易维护的方式,是在工具注册表外包一层统一执行器:进入时创建 Span,执行前写入安全字段,失败时记录异常,退出时结束 Span。

from opentelemetry import trace
from opentelemetry.trace import Status, StatusCode

# 统一的执行器让所有工具共享同一套字段和错误处理规则
tracer = trace.get_tracer("agent-runtime")

def execute_tool(tool_name, call_id, conversation_id, arguments, registry):
    # 只保留允许进入遥测的键名,避免原始参数泄露
    safe_keys = sorted(k for k in arguments if k in {"city", "query", "limit"})
    with tracer.start_as_current_span("execute_tool") as span:
        span.set_attribute("gen_ai.operation.name", "execute_tool")
        span.set_attribute("gen_ai.tool.name", tool_name)
        span.set_attribute("gen_ai.tool.call.id", call_id)
        span.set_attribute("gen_ai.conversation.id", conversation_id)
        span.set_attribute("agent.input_keys", ",".join(safe_keys))
        try:
            # 工具实现只负责业务,父 Span 自动承接当前上下文
            result = registry[tool_name](**arguments)
            span.add_event("tool.completed", {"result.type": type(result).__name__})
            return result
        except Exception as exc:
            # 异常事件保留类型、消息和堆栈,便于在链路中定位失败点
            span.record_exception(exc)
            span.set_attribute("error.type", type(exc).__name__)
            span.add_event("tool.failed", {"retryable": False})
            span.set_status(Status(StatusCode.ERROR, str(exc)))
            raise

示例故意没有记录 arguments 和 result 原文。若确实需要调试某个字段,应先定义允许采集的字段清单、脱敏策略、最大长度和保存期限,再通过配置开关启用。

按调用链排查而不是只搜错误日志

出现“代理回答失败”时,可以按下面顺序排查:

  1. 先从 invoke_agent 根 Span 确认会话 ID、总耗时和最终状态。
  2. 沿子 Span 找到产生工具调用的 chat,核对模型是否选择了预期工具。
  3. 用 gen_ai.tool.call.id 定位对应的 execute_tool,查看工具名、重试事件和错误类型。
  4. 如果工具 Span 下面还有 HTTP 或数据库 Span,继续看超时、返回码或连接错误,判断故障属于工具逻辑还是下游依赖。
  5. 最后对照 tool.rejected、tool.failed 和 exception 事件,确认是业务规则拒绝、可重试失败,还是未处理异常。

这套链路比“在每个函数里打印一行 error”多了一个关键能力:它能把模型的决定、工具执行和依赖故障放在同一个上下文里比较。日志仍然有用,但应通过 Span 上下文关联,而不是让排障者手工拼接时间戳。

常见问题与采用边界

工具参数要不要全部记录?

默认不要。工具参数可能包含个人信息、业务机密或令牌。先记录键名、长度、枚举值和调用 ID,只有经过数据治理批准的字段才采集内容。

一次重试要不要创建一个新 Span?

如果重试仍属于同一次工具操作,通常保留一个工具 Span,并为每次尝试增加事件;只有重试本身跨越独立的远程操作边界时,才考虑创建子 Span。

业务拒绝也一定要标记 ERROR 吗?

不一定。是否是错误取决于调用方的业务语义:预期的参数校验分支可以保持正常状态并记录拒绝事件;如果它导致本次代理任务无法完成,则应把失败状态向上反映。

应该先接入哪一层?

先接入代理入口和工具统一执行器,再接入工具内部的 HTTP、RPC 或数据库客户端。先让链路完整,再逐步增加内容采集,比较容易控制成本和敏感数据风险。

小结

AI 代理的可观测性重点不是多打印几行日志,而是让一次工具调用具备清晰的父子关系、稳定的调用标识和结构化的失败事件。用 invoke_agent 统领请求,用 chat 和 execute_tool 拆出模型与工具边界,用 exception 事件记录未处理异常,再通过脱敏和采样控制数据风险,就能更快回答“哪一步失败、为什么失败、是否可以重试”。

官方资料:

  • https://opentelemetry.io/docs/
  • https://opentelemetry.io/docs/specs/otel/trace/exceptions/
  • https://opentelemetry.io/docs/specs/semconv/general/events/
  • https://opentelemetry.io/blog/2026/genai-observability/
版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
Ollama API 怎样流式读取模型响应Ollama API 怎样流式读取模型响应
上一篇
Ollama API 怎样流式读取模型响应
Gemini API 怎样为工具参数提供枚举约束
下一篇
Gemini API 怎样为工具参数提供枚举约束
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    855次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    859次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    938次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    914次使用
  • MMBench详解:多模态大模型基准测试、功能特点与使用指南
    MMBench
    MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
    744次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议 和 隐私政策
返回登录
  • 重置密码