Responses API 怎样处理工具调用后的继续响应
Responses API 返回自定义函数调用后,应用需要读取 response.output 中的 function_call,执行对应工具,再把结果包装成 function_call_output 回传。每条结果必须保留原调用的 call_id。随后再次创建响应,继续处理新调用,直到获得最终消息或达到应用设定的停止条件。
官方开发文档:https://developers.openai.com/api/docs/guides/function-calling
本文限定为同步、非流式的自定义函数调用,选择 previous_response_id 管理上下文。托管工具、异步工具和程序化调用有各自协议,不能把这里的执行循环不加修改地套过去。示例只查本地演示库存,没有真实订单、网络查询或写入动作。
先把工具请求与最终消息分开
一次模型响应不是必然只有一段文本。它的 output 可以包含消息、函数调用和推理相关项目。高并发服务如果只读取 output_text,容易把没有普通文本但存在工具调用的响应误判成“空答案”。接入点应该先分类项目,再决定交给工具执行器还是用户界面。
应用处理的调用包含函数名 name、JSON 编码的参数 arguments 以及关联标识 call_id。模型提供的是调用请求,执行函数仍是应用自己的责任。函数名不应直接变成任意模块导入、系统命令或动态执行代码;用显式白名单将它映射到已经实现的函数。
还要区分三个标识:response.id 标识整个响应,项目的 id 标识输出项目,call_id 用于匹配函数请求与函数结果。回传结果时使用第三个,不要用函数名字代替。相同函数可能在同一响应里针对不同参数调用多次,仅凭名称无法准确配对。
用响应链绑定工具结果
本方案在继续请求中把 previous_response_id 设为产生待处理调用的响应 ID,并把这批调用的结果放进 input。这样可以延续已有响应上下文,而不需要再手工拼接前面所有项目。下一轮如果又出现调用,就使用新响应的 ID 继续延伸链。

以下是请求结构示意,标识都是占位值,不可直接拿来调用接口。input 内的 output 是包含 JSON 内容的字符串;这个字段保存的是应用真实取得的工具结果,而不是模型猜测的答案。
{
"previous_response_id": "resp_example",
"input": [
{
"type": "function_call_output",
"call_id": "call_example",
"output": "{\"ok\":true,\"demo\":true,\"available\":12}"
}
]
}
这只是继续请求的关联部分,完整请求还应带上选用的模型、工具定义和需要维持的指令。特别是顶层 instructions 不会因为设置了 previous_response_id 就自动沿用,稳定规则应在每次创建响应时重新提供。
另一条路线是手工管理上下文,把历史输出项目和工具结果依次放回输入。选那条路线时,不能只留下普通消息和函数项目、随意丢弃同轮所需的推理项目。本文只实现响应链方式,不同时重复回放同一段历史。需要 store:false 或受特定数据保留规则约束的应用,应按官方无状态方案另行设计。
写一个有上限的只读工具循环
下面的 Python 示例使用支持 Responses 的 OpenAI SDK。运行前由环境提供 OPENAI_API_KEY,并把 OPENAI_MODEL 设为自己账户中支持 Responses 与函数调用的可用模型。这里不写死模型名,也不声称任何账户都拥有相同权限。工具读取两个固定演示条目,数据不代表实时业务库存。
import json
import os
from openai import OpenAI
# 演示数据只来自本地常量,不代表实时仓库库存。
CATALOG = {"kit-green": {"available": 12}, "kit-blue": {"available": 0}}
TOOLS = [{
"type": "function",
"name": "lookup_demo_stock",
"description": "读取演示商品库存;不是实时业务数据。",
"strict": True,
"parameters": {
"type": "object",
"properties": {"sku": {"type": "string", "enum": list(CATALOG)}},
"required": ["sku"],
"additionalProperties": False,
},
}]
RULES = "库存只以演示工具结果为依据;明确说明是演示数据,失败时不要编造数量。"
def execute(call):
# 白名单和参数检查属于应用责任,不能直接执行模型生成的代码。
try:
args = json.loads(call.arguments)
if call.name != "lookup_demo_stock":
raise ValueError("unknown_tool")
if not isinstance(args, dict) or set(args) != {"sku"}:
raise ValueError("invalid_arguments")
sku = args["sku"]
if not isinstance(sku, str) or sku not in CATALOG:
raise ValueError("invalid_sku")
return {"ok": True, "sku": sku, "demo": True, **CATALOG[sku]}
except (ValueError, TypeError):
return {"ok": False, "error": "invalid_tool_request", "demo": True}
def answer(client, model):
# 明确使用存储响应链;模型由调用者选择支持 Responses 和函数调用的可用型号。
response = client.responses.create(
model=model, tools=TOOLS, instructions=RULES, store=True,
input="分别查询 kit-green 与 kit-blue 的演示库存,然后说明哪些还有库存。",
)
cache = {}
for batch in range(5):
# 非 completed 不当成最终回答,也不执行可能未完整生成的调用。
if response.status != "completed":
raise RuntimeError("响应未完整完成,交给外层恢复处理")
calls = [x for x in response.output if x.type == "function_call"]
if not calls:
if any(x.type == "message" for x in response.output):
return response.output_text or "模型未提供普通文本,请检查消息中的拒绝内容"
raise RuntimeError("没有待处理调用,也没有最终消息")
# 只允许四批工具执行,第五次响应仅用于收取最终消息。
if batch == 4 or len(calls) > 8:
raise RuntimeError("超过本次应用设定的工具调用预算")
outputs = []
for call in calls:
if call.call_id not in cache:
cache[call.call_id] = json.dumps(execute(call), ensure_ascii=False)
outputs.append({
"type": "function_call_output",
"call_id": call.call_id,
"output": cache[call.call_id],
})
# 指向产生这批调用的响应;不要把 response.id 填进 call_id。
response = client.responses.create(
model=model, tools=TOOLS, instructions=RULES, store=True,
previous_response_id=response.id, input=outputs,
)
raise RuntimeError("达到响应次数上限")
if __name__ == "__main__":
# 密钥由 OPENAI_API_KEY 提供,不写入源码;关闭自动重试便于示例明确失败责任。
with OpenAI(timeout=30.0, max_retries=0) as client:
print(answer(client, os.environ["OPENAI_MODEL"]))
这个循环有几个刻意保留的限制。它遍历整批 function_call,不会只执行 output[0];同一批各工具结果一起提交,避免漏掉第二个调用。工具在本地逐个执行,所以即使模型同时提出多个独立调用,也不会在这个示例里产生额外线程或任务。
最多执行四批工具,再允许读取一次响应。总共最多创建五次模型响应,每批最多八个函数调用;超过预算时以异常结束,由外层显示“未完成”而不是假装回答成功。这个上限是应用策略,不是 API 自带的固定限制。请求超时按次设置,生产服务还应增加整次用户任务的截止时间。
参数格式错误或未知函数得到明确的失败结果,模型可以依据结果解释失败或在剩余预算内调整。网络异常和响应未完整完成则向外抛出,不把传输失败伪造成“库存为零”。示例未执行,实际调用次数、模型措辞及最终消息不能从示例代码推定。
把恢复责任留在应用层
规模增加时,真正需要持久化的是任务状态与工具执行记录,而不是无限延长一个内存循环。至少要把用户任务标识、当前响应 ID、待处理调用的 call_id、工具状态和已保存结果关联起来。这样进程中断后,才能判断工具是否已经执行、是否只差结果回传。

示例的 cache 只在当前进程内按 call_id 保存结果,适合解释配对和同一调用结果复用。它不能阻止模型用新 call_id 再查一次,也不能跨重启保证一次执行。若换成创建工单等有副作用的工具,需要持久化业务幂等键、权限检查和明确的重试策略;call_id 本身不能替代业务去重。
继续请求超时后,不应直接重新执行整批工具。先查看应用保存的执行记录:已经有确定结果的调用复用原结果,尚未执行的调用才能进入执行器。对于执行结果不确定的写操作,先由业务系统查明状态。保持原响应关联与原 call_id,并不意味着接口自动提供端到端的“恰好一次”。
| 观察到的状态 | 应用处理 | 容易出现的误判 |
|---|---|---|
| 有 function_call | 处理这一批调用并回传结果 | output_text 为空就结束 |
| 无调用且有最终消息 | 读取文本或处理拒绝内容 | 必须调用过工具才能回答 |
| 响应未完整完成 | 进入单独恢复逻辑 | 把截断内容当最终答案 |
| 超过应用预算 | 报告任务尚未完成 | 静默忽略剩余调用 |
| 工具已成功但回传失败 | 保留结果与关联标识 | 重复执行工具业务动作 |
运行记录可以统计每个任务的模型响应数、工具失败数、工具耗时和达到预算上限的比例。这些是建议观察的运行信号,不是本文实测数据。先通过记录区分工具耗时和模型耗时,再考虑独立只读调用的有限并发;存在依赖关系的调用不能仅为提速就并行执行。
回传工具结果以后还会继续调用工具吗?
会。继续响应可能产生新的调用,也可能生成最终消息,因此一次回传不等于任务必然结束,循环必须检查新响应。
可以直接把工具字典作为 output 吗?
本文的文本结果采用 json.dumps 序列化为字符串,避免把普通 Python 字典与接口要求的输入结构混淆。需要多模态工具结果时,应按官方相应类型构造,不能沿用普通字典猜测协议。
为什么有文本时仍然先处理调用?
文本可能只是伴随工具请求的说明。只要响应里还有本方案负责处理的函数调用,就先处理调用;不能用“文本非空”替代最终完成条件。
官方参考:https://developers.openai.com/api/docs/guides/function-calling;https://developers.openai.com/api/docs/guides/migrate-to-responses;https://developers.openai.com/api/reference/python/resources/responses/methods/create。这些文档分别说明函数结果关联、上下文管理以及继续请求字段。
Responses API 怎样用上一轮响应继续多轮对话
- 上一篇
- Responses API 怎样用上一轮响应继续多轮对话
- 下一篇
- 结构化输出怎样约束模型返回 JSON Schema
-
- 科技周边 · 人工智能 | 10分钟前 | 多模态输入 Gemini API Files API MIME 类型
- Gemini API 怎样把文件输入和文本提示放在同一请求
- 164浏览 收藏
-
- 科技周边 · 人工智能 | 10分钟前 | 人工智能 · padding Transformers tokenizer attention_mask input_ids truncation
- Transformers tokenizer 怎样让 padding 与 truncation 对齐批量输入
- 416浏览 收藏
-
- 科技周边 · 人工智能 | 11分钟前 |
- Hugging Face Datasets DatasetDict 跨 train 与 validation 的 map 处理方案
- 267浏览 收藏
-
- 科技周边 · 人工智能 | 16分钟前 | 人工智能 · 结构化输出 · JSON Schema Responses API Structured Outputs strict refusal
- 结构化输出怎样约束模型返回 JSON Schema
- 328浏览 收藏
-
- 科技周边 · 人工智能 | 21分钟前 | 人工智能 · openai · 多轮对话 Responses API conversation state OpenAI API previous_response_id
- Responses API 怎样用上一轮响应继续多轮对话
- 121浏览 收藏
-
- 科技周边 · 人工智能 | 1天前 |
- GPT-Live双工语音会话接入后端
- 470浏览 收藏
-
- 科技周边 · 人工智能 | 1天前 | 人工智能 · 文本生成 Transformers 重复片段 no_repeat_ngram_size GenerationConfig
- Transformers 怎样用 no_repeat_ngram_size 减少重复片段
- 493浏览 收藏
-
- 科技周边 · 人工智能 | 1天前 | python · 人工智能 · OpenAI session Agents SDK SQLiteSession conversation_id
- OpenAI Agents API保存持久会话
- 414浏览 收藏
-
- 科技周边 · 人工智能 | 1天前 |
- Transformers在vLLM中部署生成模型
- 122浏览 收藏
-
- 科技周边 · 人工智能 | 1天前 |
- Transformers datasets流式读取训练数据
- 275浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 1054次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 1054次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 1219次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 1161次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 1004次使用
-
- CodeGeeX for Jetbrains IDEs正式上线!
- 2023-01-17 284浏览
-
- 技术阿里云实现ocr批量图片和pdf文件表格图片转换excel文档/支持票据图片提取/普通图片文字提取处理
- 2023-01-18 387浏览
-
- 直播预告|FeatureStore Meetup V2
- 2023-01-10 328浏览
-
- 深入浅出特征工程 – 基于 OpenMLDB 的实践指南(上)
- 2023-02-25 426浏览
-
- 开源机器学习数据库OpenMLDB v0.4.0产品介绍
- 2023-01-10 147浏览

