当前位置:首页 > 文章列表 > 科技周边 > 人工智能 > OpenAI Batch API 取消任务后怎么收口:cancelling、cancelled 与部分结果处理

OpenAI Batch API 取消任务后怎么收口:cancelling、cancelled 与部分结果处理

来源:17golang原创 2026-08-29 09:27:34 0浏览 收藏

批量任务已经跑了一段时间,业务方突然要求停止,最容易犯的错是把“发出取消请求”当成“所有结果都没了”。OpenAI Batch API 的取消路径通常先进入 cancelling,最终变成 cancelled;这时已成功的请求和失败的请求仍要分别从结果文件与计数中收口。

取消 Batch 不等于回滚整批。正确做法是等待终态,再按 output_file_id、error_file_id 和 request_counts 盘点已经完成的行。

要点速览
  • cancelling 是过渡态,不能据此宣布任务已经停止。
  • cancelled 是取消终态,但可能带有部分成功结果。
  • 先保存 output_file_id 与 error_file_id,再按 custom_id 对账,不能只看总状态。
  • 重跑前排除已成功行,并为仍未完成的行保留新的批次标识。

先把取消动作和终态分开看

Batch API 的取消接口是对 /v1/batches/{batch_id}/cancel 发起 POST。接口返回后,任务可能处在 cancelling,服务端还在收尾;只有读到 cancelled,本轮取消才算收口。文档中的批次对象同时提供 output_file_id、error_file_id 和 request_counts,它们比一个布尔值更适合做最终盘点。

这里的判断很简单:看到 cancelling,继续查询同一个 batch_id;看到 cancelled,保存返回对象并转入结果文件处理。不要在过渡态重复发取消请求,也不要把取消中的批次当成可安全重建的空任务。

OpenAI Batch API 从取消请求到 cancelling 再到 cancelled 的状态链

取消后的第一张清单:状态、计数和两个文件

收口时建议把批次对象原样落盘,再抽取下面几组字段。request_counts.total 是输入请求总数,completed 和 failed 用来校验处理规模;output_file_id 指向成功输出,error_file_id 指向错误行。字段为空时不要猜测,先保留原始响应并记录本次读取时间。

字段用途收口判断
status确认是否离开过渡态必须是 cancelled
request_counts核对总量、成功数、失败数与输入行数对账
output_file_id读取已经成功的结果按 custom_id 入账
error_file_id读取服务返回的错误行区分失败与未处理

不要用 total - completed 直接当成“可重跑数量”。剩余行里可能包含失败请求,也可能包含因为取消而没有机会处理的请求,必须继续看输出文件和错误文件中的 custom_id。

用 custom_id 把部分成功结果分流

Batch 输入是 JSONL,每行都有开发者提供的唯一 custom_id。取消后的处理可以按三路分流:在输出文件中的标记为已成功,在错误文件中的标记为已失败,两个文件都没有出现的标记为未收口。最后一类才是下一批真正需要考虑的候选。

{"custom_id":"invoice-0007","status_code":200,"response":{"body":{"id":"resp_7"}}}
{"custom_id":"invoice-0008","error":{"code":"rate_limit_exceeded","message":"temporary limit"}}

实际读取时不要依赖文件行顺序。用 custom_id 建索引,再和原始 JSONL 的集合做差集;这样即使结果文件乱序,也能避免把已成功的 invoice-0007 重复塞进下一批。

OpenAI Batch API cancelled 终态后按 custom_id 分到成功、失败与未收口三条结果路径

下一批怎么重跑才不会重复扣处理量

重跑前先生成一份结果快照,至少包含原始 custom_id、结果类别、对应文件标识和重跑原因。新的 JSONL 只放“未收口”或经过人工确认需要重试的行;已经成功的行不重放,已明确失败的行也不要无条件重放,先看错误是否具备可恢复性。

如果业务必须保证最终完整,可为每次重跑增加批次前缀,例如 retry-20260829-invoice-0008,同时保留原始 custom_id 到业务单号的映射。这样既能识别重跑次数,也不会让一个取消批次的部分结果被覆盖。

常见问题:取消后的三个边界

看到 cancelling 就可以重新创建吗?

不建议。此时原批次仍在收尾,结果文件和计数可能还会变化。至少等到 cancelled,再读取最终对象。

cancelled 是否代表没有任何成功请求?

不是。取消是批次状态,不是逐行结果。是否有成功行,要看 output_file_id 和输出内容。

失败文件里的行都应该重试吗?

不应该。先按错误码区分临时限制、参数错误和业务拒绝;只有可恢复错误才进入重试集合。

一张可执行的收口表

  • 状态:同一个 batch_id 查询到 cancelled。
  • 结果:保存批次对象,记录 output_file_id 和 error_file_id。
  • 对账:用 custom_id 覆盖成功、失败、未收口三类集合。
  • 重跑:只生成未收口或明确允许重试的 JSONL 行。
  • 复核:让 request_counts 与三类集合总量互相解释。

取消操作真正完成的标志,不是按钮返回得有多快,而是状态进入 cancelled 后,结果文件和请求计数能够解释每一行输入。把这一步做成固定收口流程,下一次遇到临时停批时,已经完成的工作就不会被误删,未完成的工作也不会被重复处理。

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
AI 应用接入远程 MCP 服务器前要检查什么:工具权限、来源与回滚边界AI 应用接入远程 MCP 服务器前要检查什么:工具权限、来源与回滚边界
上一篇
AI 应用接入远程 MCP 服务器前要检查什么:工具权限、来源与回滚边界
Go bytes.Reader.WriteTo 如何把内存数据流式写出:读取游标、短写与复用边界
下一篇
Go bytes.Reader.WriteTo 如何把内存数据流式写出:读取游标、短写与复用边界
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    465次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    528次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    545次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    495次使用
  • MMBench详解:多模态大模型基准测试、功能特点与使用指南
    MMBench
    MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
    316次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议 和 隐私政策
返回登录
  • 重置密码