当前位置:首页 > 文章列表 > 科技周边 > 人工智能 > Responses API 怎样处理工具调用后的继续响应

Responses API 怎样处理工具调用后的继续响应

来源:17golang原创 2026-11-16 20:22:20 0浏览 收藏

Responses API 返回自定义函数调用后,应用需要读取 response.output 中的 function_call,执行对应工具,再把结果包装成 function_call_output 回传。每条结果必须保留原调用的 call_id。随后再次创建响应,继续处理新调用,直到获得最终消息或达到应用设定的停止条件。

官方开发文档:https://developers.openai.com/api/docs/guides/function-calling

本文限定为同步、非流式的自定义函数调用,选择 previous_response_id 管理上下文。托管工具、异步工具和程序化调用有各自协议,不能把这里的执行循环不加修改地套过去。示例只查本地演示库存,没有真实订单、网络查询或写入动作。

先把工具请求与最终消息分开

一次模型响应不是必然只有一段文本。它的 output 可以包含消息、函数调用和推理相关项目。高并发服务如果只读取 output_text,容易把没有普通文本但存在工具调用的响应误判成“空答案”。接入点应该先分类项目,再决定交给工具执行器还是用户界面。

应用处理的调用包含函数名 name、JSON 编码的参数 arguments 以及关联标识 call_id。模型提供的是调用请求,执行函数仍是应用自己的责任。函数名不应直接变成任意模块导入、系统命令或动态执行代码;用显式白名单将它映射到已经实现的函数。

还要区分三个标识:response.id 标识整个响应,项目的 id 标识输出项目,call_id 用于匹配函数请求与函数结果。回传结果时使用第三个,不要用函数名字代替。相同函数可能在同一响应里针对不同参数调用多次,仅凭名称无法准确配对。

用响应链绑定工具结果

本方案在继续请求中把 previous_response_id 设为产生待处理调用的响应 ID,并把这批调用的结果放进 input。这样可以延续已有响应上下文,而不需要再手工拼接前面所有项目。下一轮如果又出现调用,就使用新响应的 ID 继续延伸链。

响应标识与工具调用标识分别关联上下文和函数结果的静态结构
图1:响应关联结构图。响应 ID 连接上下文引用,call_id 匹配调用项目与结果项目;连线表示字段关系,不代表执行时间顺序。

以下是请求结构示意,标识都是占位值,不可直接拿来调用接口。input 内的 output 是包含 JSON 内容的字符串;这个字段保存的是应用真实取得的工具结果,而不是模型猜测的答案。

{
  "previous_response_id": "resp_example",
  "input": [
    {
      "type": "function_call_output",
      "call_id": "call_example",
      "output": "{\"ok\":true,\"demo\":true,\"available\":12}"
    }
  ]
}

这只是继续请求的关联部分,完整请求还应带上选用的模型、工具定义和需要维持的指令。特别是顶层 instructions 不会因为设置了 previous_response_id 就自动沿用,稳定规则应在每次创建响应时重新提供。

另一条路线是手工管理上下文,把历史输出项目和工具结果依次放回输入。选那条路线时,不能只留下普通消息和函数项目、随意丢弃同轮所需的推理项目。本文只实现响应链方式,不同时重复回放同一段历史。需要 store:false 或受特定数据保留规则约束的应用,应按官方无状态方案另行设计。

写一个有上限的只读工具循环

下面的 Python 示例使用支持 Responses 的 OpenAI SDK。运行前由环境提供 OPENAI_API_KEY,并把 OPENAI_MODEL 设为自己账户中支持 Responses 与函数调用的可用模型。这里不写死模型名,也不声称任何账户都拥有相同权限。工具读取两个固定演示条目,数据不代表实时业务库存。

import json
import os
from openai import OpenAI

# 演示数据只来自本地常量,不代表实时仓库库存。
CATALOG = {"kit-green": {"available": 12}, "kit-blue": {"available": 0}}
TOOLS = [{
    "type": "function",
    "name": "lookup_demo_stock",
    "description": "读取演示商品库存;不是实时业务数据。",
    "strict": True,
    "parameters": {
        "type": "object",
        "properties": {"sku": {"type": "string", "enum": list(CATALOG)}},
        "required": ["sku"],
        "additionalProperties": False,
    },
}]
RULES = "库存只以演示工具结果为依据;明确说明是演示数据,失败时不要编造数量。"

def execute(call):
    # 白名单和参数检查属于应用责任,不能直接执行模型生成的代码。
    try:
        args = json.loads(call.arguments)
        if call.name != "lookup_demo_stock":
            raise ValueError("unknown_tool")
        if not isinstance(args, dict) or set(args) != {"sku"}:
            raise ValueError("invalid_arguments")
        sku = args["sku"]
        if not isinstance(sku, str) or sku not in CATALOG:
            raise ValueError("invalid_sku")
        return {"ok": True, "sku": sku, "demo": True, **CATALOG[sku]}
    except (ValueError, TypeError):
        return {"ok": False, "error": "invalid_tool_request", "demo": True}

def answer(client, model):
    # 明确使用存储响应链;模型由调用者选择支持 Responses 和函数调用的可用型号。
    response = client.responses.create(
        model=model, tools=TOOLS, instructions=RULES, store=True,
        input="分别查询 kit-green 与 kit-blue 的演示库存,然后说明哪些还有库存。",
    )
    cache = {}
    for batch in range(5):
        # 非 completed 不当成最终回答,也不执行可能未完整生成的调用。
        if response.status != "completed":
            raise RuntimeError("响应未完整完成,交给外层恢复处理")
        calls = [x for x in response.output if x.type == "function_call"]
        if not calls:
            if any(x.type == "message" for x in response.output):
                return response.output_text or "模型未提供普通文本,请检查消息中的拒绝内容"
            raise RuntimeError("没有待处理调用,也没有最终消息")
        # 只允许四批工具执行,第五次响应仅用于收取最终消息。
        if batch == 4 or len(calls) > 8:
            raise RuntimeError("超过本次应用设定的工具调用预算")
        outputs = []
        for call in calls:
            if call.call_id not in cache:
                cache[call.call_id] = json.dumps(execute(call), ensure_ascii=False)
            outputs.append({
                "type": "function_call_output",
                "call_id": call.call_id,
                "output": cache[call.call_id],
            })
        # 指向产生这批调用的响应;不要把 response.id 填进 call_id。
        response = client.responses.create(
            model=model, tools=TOOLS, instructions=RULES, store=True,
            previous_response_id=response.id, input=outputs,
        )
    raise RuntimeError("达到响应次数上限")

if __name__ == "__main__":
    # 密钥由 OPENAI_API_KEY 提供,不写入源码;关闭自动重试便于示例明确失败责任。
    with OpenAI(timeout=30.0, max_retries=0) as client:
        print(answer(client, os.environ["OPENAI_MODEL"]))

这个循环有几个刻意保留的限制。它遍历整批 function_call,不会只执行 output[0];同一批各工具结果一起提交,避免漏掉第二个调用。工具在本地逐个执行,所以即使模型同时提出多个独立调用,也不会在这个示例里产生额外线程或任务。

最多执行四批工具,再允许读取一次响应。总共最多创建五次模型响应,每批最多八个函数调用;超过预算时以异常结束,由外层显示“未完成”而不是假装回答成功。这个上限是应用策略,不是 API 自带的固定限制。请求超时按次设置,生产服务还应增加整次用户任务的截止时间。

参数格式错误或未知函数得到明确的失败结果,模型可以依据结果解释失败或在剩余预算内调整。网络异常和响应未完整完成则向外抛出,不把传输失败伪造成“库存为零”。示例未执行,实际调用次数、模型措辞及最终消息不能从示例代码推定。

把恢复责任留在应用层

规模增加时,真正需要持久化的是任务状态与工具执行记录,而不是无限延长一个内存循环。至少要把用户任务标识、当前响应 ID、待处理调用的 call_id、工具状态和已保存结果关联起来。这样进程中断后,才能判断工具是否已经执行、是否只差结果回传。

任务记录、响应上下文、工具执行记录及预算之间的静态责任关系
图2:应用恢复责任结构图。任务记录关联响应和工具记录,预算约束本次任务;内存结果缓存不等于持久化幂等机制。

示例的 cache 只在当前进程内按 call_id 保存结果,适合解释配对和同一调用结果复用。它不能阻止模型用新 call_id 再查一次,也不能跨重启保证一次执行。若换成创建工单等有副作用的工具,需要持久化业务幂等键、权限检查和明确的重试策略;call_id 本身不能替代业务去重。

继续请求超时后,不应直接重新执行整批工具。先查看应用保存的执行记录:已经有确定结果的调用复用原结果,尚未执行的调用才能进入执行器。对于执行结果不确定的写操作,先由业务系统查明状态。保持原响应关联与原 call_id,并不意味着接口自动提供端到端的“恰好一次”。

观察到的状态应用处理容易出现的误判
有 function_call处理这一批调用并回传结果output_text 为空就结束
无调用且有最终消息读取文本或处理拒绝内容必须调用过工具才能回答
响应未完整完成进入单独恢复逻辑把截断内容当最终答案
超过应用预算报告任务尚未完成静默忽略剩余调用
工具已成功但回传失败保留结果与关联标识重复执行工具业务动作

运行记录可以统计每个任务的模型响应数、工具失败数、工具耗时和达到预算上限的比例。这些是建议观察的运行信号,不是本文实测数据。先通过记录区分工具耗时和模型耗时,再考虑独立只读调用的有限并发;存在依赖关系的调用不能仅为提速就并行执行。

回传工具结果以后还会继续调用工具吗?

会。继续响应可能产生新的调用,也可能生成最终消息,因此一次回传不等于任务必然结束,循环必须检查新响应。

可以直接把工具字典作为 output 吗?

本文的文本结果采用 json.dumps 序列化为字符串,避免把普通 Python 字典与接口要求的输入结构混淆。需要多模态工具结果时,应按官方相应类型构造,不能沿用普通字典猜测协议。

为什么有文本时仍然先处理调用?

文本可能只是伴随工具请求的说明。只要响应里还有本方案负责处理的函数调用,就先处理调用;不能用“文本非空”替代最终完成条件。

官方参考:https://developers.openai.com/api/docs/guides/function-calling;https://developers.openai.com/api/docs/guides/migrate-to-responses;https://developers.openai.com/api/reference/python/resources/responses/methods/create。这些文档分别说明函数结果关联、上下文管理以及继续请求字段。

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
Responses API 怎样用上一轮响应继续多轮对话Responses API 怎样用上一轮响应继续多轮对话
上一篇
Responses API 怎样用上一轮响应继续多轮对话
结构化输出怎样约束模型返回 JSON Schema
下一篇
结构化输出怎样约束模型返回 JSON Schema
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    1054次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    1054次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    1219次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    1161次使用
  • MMBench详解:多模态大模型基准测试、功能特点与使用指南
    MMBench
    MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
    1004次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议 和 隐私政策
返回登录
  • 重置密码