Go 接 Responses API background mode:轮询异步任务、状态与数据保留边界
线上报告生成这类接口最容易踩的坑,就是把动辄要跑好几分钟的模型请求当成普通短查询来处理:Go 服务这边一直占着连接不放,网关先一步超时断开了,后台模型任务反倒还在继续跑。Responses API 的 background mode 刚好适配这类长任务,把整个流程拆成「提交一次、拿到响应 ID、后续查询状态」的逻辑,但它本身不是消息队列,也不会自动帮你完成业务侧的重试、权限校验和结果落库。
要点速览
- 提交请求时开启 background mode,接口会先返回一个可用于后续查询的 response ID。
- 轮询过程要识别 queued、in_progress、completed、failed、cancelled 等全量状态,不能只通过 HTTP 200 就判断任务完成。
- 任务状态标记为完成后再读取 output 字段,把 response ID、请求 ID 和业务任务号一起存入数据库。
- 后台模式会为轮询临时暂存响应数据,涉及敏感内容时要先核对对应项目的数据保留规则。
先把“长请求”改成两段式流程
假设后台有个「根据本周工单自动生成复盘报告」的功能。用户点击生成按钮后,前端不用一直等到模型把全文写完,只要提示“任务已受理”,后续每隔几秒查询一次本地业务任务表就行。
这里要把两个 ID 区分开:业务侧的 task_id 负责让用户定位找回自己的任务,OpenAI 返回的 response_id 负责后续查询模型任务进度。不要直接把后者直接传给浏览器当业务凭证,也不要默认它是永久有效的。

官方对 background mode 的定位就是处理耗时可能达到数分钟的复杂任务,调用方既可以轮询对象状态,也可以用流式事件同步任务进度。对绝大多数用 Go 写的后台管理系统来说,先从轮询方案入手更容易落地:接口逻辑简单,任务状态全链路可审计,就算中间网关超时也不会打断已经提交的模型任务。
Go 请求体只放必要的异步开关
下面用标准库 net/http 演示最小化提交代码。示例里特意把 API 密钥放在环境变量中,生产环境建议从密钥服务或者容器注入,不要直接硬编码写进配置文件。
type createResponseRequest struct {
Model string `json:"model"`
Input string `json:"input"`
Background bool `json:"background"`
Store bool `json:"store"`
}
type responseObject struct {
ID string `json:"id"`
Status string `json:"status"`
Error *struct {
Message string `json:"message"`
} `json:"error"`
}
func submitBackground(ctx context.Context, apiKey string) (responseObject, error) {
body := createResponseRequest{
Model: "o3",
Input: "根据工单摘要生成一份内部复盘报告,保留事实和风险项。",
Background: true,
Store: true,
}
raw, err := json.Marshal(body)
if err != nil {
return responseObject{}, err
}
req, err := http.NewRequestWithContext(ctx, http.MethodPost,
"https://api.openai.com/v1/responses", bytes.NewReader(raw))
if err != nil {
return responseObject{}, err
}
req.Header.Set("Authorization", "Bearer "+apiKey)
req.Header.Set("Content-Type", "application/json")
resp, err := http.DefaultClient.Do(req)
if err != nil {
return responseObject{}, err
}
defer resp.Body.Close()
if resp.StatusCode = 300 {
return responseObject{}, fmt.Errorf("submit status: %s", resp.Status)
}
var out responseObject
if err := json.NewDecoder(resp.Body).Decode(&out); err != nil {
return responseObject{}, err
}
if out.ID == "" {
return responseObject{}, errors.New("missing response id")
}
return out, nil
}
这里的核心不是把请求体写得有多复杂,而是要第一时间存好返回的 id。提交接口返回成功只能代表异步任务对象创建成功,不能直接判定报告已经生成。如果提交返回 429、401 或者 5xx 这类错误,要结合响应头和业务幂等键做对应处理,不能用户多点一次按钮就无条件创建第二个重复任务。
轮询时先看状态,再读取输出
轮询接口全程用同一个 response ID 调用就行。建议给每个业务任务设置明确的超时截止时间,比如最多等8分钟;轮询间隔从2秒起步,逐步拉长到8秒,避免任务高峰期瞬间发起大量无意义的查询压到上游接口。
func waitForResponse(ctx context.Context, apiKey, responseID string) (responseObject, error) {
delay := 2 * time.Second
deadline := time.NewTimer(8 * time.Minute)
defer deadline.Stop()
for {
current, err := getResponse(ctx, apiKey, responseID)
if err != nil {
return responseObject{}, err
}
switch current.Status {
case "completed":
return current, nil
case "failed", "cancelled", "incomplete":
if current.Error != nil {
return responseObject{}, fmt.Errorf("response %s: %s", current.Status, current.Error.Message)
}
return responseObject{}, fmt.Errorf("response %s", current.Status)
case "queued", "in_progress":
// 继续等待;业务表中同步写入最近一次状态。
default:
return responseObject{}, fmt.Errorf("unknown response status: %s", current.Status)
}
timer := time.NewTimer(delay)
select {
case
实际项目里的 getResponse 只需要做 GET 请求、鉴权和 JSON 解码逻辑,最好把服务端返回的 status 原样写入 ai_tasks.last_status。这样用户端展示的是“排队中”“处理中”还是“生成失败”都清晰明了,运维排查问题的时候也能直接看到任务卡在哪一步。

completed 之后还要核对结果和业务归属
状态变成 completed 之后,再去读取 output 字段的内容。读完输出不代表可以直接展示给用户,报告生成这类场景至少要做几层校验:response ID 是否归属于当前业务任务、输出内容是否为空、模型返回的拒答或者错误结构有没有被正常处理。
一套实用的落库字段参考如下:
task_id varchar(64) -- 业务任务号
response_id varchar(128) -- Responses API 返回的 ID
request_id varchar(128) -- 响应头中的请求追踪号
last_status varchar(32)
result_text mediumtext
fail_reason varchar(255)
deadline_at datetime
finished_at datetime
消费最终结果的时候要用数据库条件更新逻辑,比如只允许 queued 或者 in_progress 状态的任务流转成 completed。这样定时补偿任务和用户手动刷新同时触发的时候,只有一个流程能把最终报告写入数据库,避免出现多份重复数据。
后台模式和数据保留不是一回事
background=true 解决的是连接时长和任务状态同步的问题,不直接等同于隐私合规策略。官方数据控制说明里提到,Responses API 的后台模式会把响应数据暂存一段时间支撑轮询,文档标注的时长大约是10分钟;这个临时存储和普通请求的存储设置、项目级的数据控制开关是互相独立的两套逻辑。
如果输入内容里包含客户工单、手机号或者内部故障细节,要先做内容最小化处理:删掉不需要的个人敏感字段,单独维护业务任务和模型响应的关联关系,确认组织是否已经开启 Zero Data Retention 策略,以及当前规则是否允许使用后台模式。不要仅凭 store=false 就给业务方承诺“完全不会留存任何内容”。
常见问题:超时、重复任务和状态误判
提交接口超时,任务到底有没有创建?
网络超时不能直接断定服务端没有收到请求。要给业务任务绑定独立的幂等键,记录本地提交时间,后续链路可查询时再根据 response ID 或者业务侧状态做补偿核对。没有做幂等设计的情况下,自动重试很容易生成两份完全重复的报告。
轮询拿到 200,为什么页面还是不能展示?
HTTP 200 只代表查询接口本身正常返回,真正决定任务结果的是返回 JSON 里的 status 字段。queued 和 in_progress 都属于还在等待的状态,failed 和 cancelled 要展示可重试或者引导人工处理的提示,只有 completed 状态下才能进入 output 解析流程。
超过截止时间要不要一直查?
不需要。到达预设的业务截止时间后,直接把任务标记为“待补偿”,停止前端侧的轮询;后台的补偿调度器可以用更长的间隔再试查一次。要是报告已经生成,补偿器负责把结果落库;如果多次查询还是失败,就保留错误原因和 request ID 留作后续排查。
小结:把模型调用当作可观测任务
Go 接入 Responses API background mode 的核心逻辑只有三步:提交请求时拿到 response ID,按状态机规则做轮询,任务完成后核对 output 结果再落库。真正决定线上系统稳定性的,是业务任务号、幂等键、截止时间、状态机逻辑和数据保留规则这些细节。把这些边界补全之后,模型长任务就不会再绑架用户的请求连接,也不会因为一次200响应就被误判为已经执行完成。
Go http.Client 重试 POST 时 Body 变空:GetBody 与请求体复用的正确姿势
- 上一篇
- Go http.Client 重试 POST 时 Body 变空:GetBody 与请求体复用的正确姿势
- 下一篇
- Go clear 怎么用:map 和 slice 清空后的容量、引用与复用边界
-
- 科技周边 · 人工智能 | 1小时前 |
- OpenAI Responses API 如何区分 output_text 和完整输出项
- 277浏览 收藏
-
- 科技周边 · 人工智能 | 2小时前 | openai · function calling · 结构化输出 · Responses API · OpenAI JSON Schema 工具调用 Responses API Structured Outputs
- OpenAI Responses API 如何让工具调用返回结构化结果
- 274浏览 收藏
-
- 科技周边 · 人工智能 | 4小时前 | 人工智能 · 模型路由 · 容错设计 · API降级 · 模型降级 Responses API GPT-6 Astra OpenAI API 限量开放
- GPT-6 Astra API 限量开放时如何设计模型降级路径
- 192浏览 收藏
-
- 科技周边 · 人工智能 | 8小时前 | 人工智能 · Hugging Face · LoRA · 大模型微调 · LoRa 微调数据集 对话格式 chat template messages
- LoRA 微调数据集里为什么要保留一致的对话格式
- 426浏览 收藏
-
- 科技周边 · 人工智能 | 9小时前 |
- AI 评测集怎么同时记录准确率和拒答质量
- 385浏览 收藏
-
- 科技周边 · 人工智能 | 10小时前 |
- Prompt 缓存命中率下降时怎么查前缀是否稳定
- 487浏览 收藏
-
- 科技周边 · 人工智能 | 12小时前 |
- AI 输出 JSON 偶尔多出 Markdown 围栏怎么做容错解析
- 398浏览 收藏
-
- 科技周边 · 人工智能 | 16小时前 | 人工智能 · 性能排查 · 模型量化 · 本地推理 model quantization KV Cache
- 本地大模型量化后回答变慢怎么区分显存和上下文瓶颈
- 433浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 41次使用
-
- SuperCLUE
- SuperCLUE是权威的中文大语言模型综合评测基准,涵盖语言理解、知识应用、AI Agent智能体及安全性等12项核心能力。通过多轮对话与客观测试,定期发布榜单与技术报告,为模型研发、优化及行业选型提供科学依据。
- 191次使用
-
- C-Eval
- 深入了解C-Eval中文评估套件,涵盖52个学科与4级难度。本文详解其功能特点、Zero-shot/Few-shot使用方法及代码示例,助您全面评测LLM中文理解与泛化能力。
- 129次使用
-
- AI Prompt Library
- 探索AI Prompt Library免费资源库,涵盖营销、写作及多场景AI提示词。兼容ChatGPT、Claude等工具,一键复制优化输出,提升工作效率。
- 56次使用
-
- Generrated
- Generrated汇集9300+张DALL·E生成图像及对应提示词,支持查看完整图集、对比DALL·E 2与3版本差异,是AI绘图新手学习Prompt设计与获取创作灵感的实用工具。
- 42次使用
-
- 有关Go语言拼接URL路径的方法
- 2023-03-09 185浏览
-
- go语言能不能做后端
- 2023-03-03 460浏览
-
- go语言和java的区别是什么
- 2023-03-03 430浏览
-
- go语言如何进行强制类型转换
- 2023-03-04 450浏览
-
- go语言的beego怎么使用
- 2023-03-03 320浏览

