Python asyncio.gather 怎样收集部分任务异常
需要让一批独立任务各自交回结果、同时保留其中的普通异常,可以使用 await asyncio.gather(*aws, return_exceptions=True)。返回列表按传入的 awaitable 顺序排列,成功位置放返回值,失败位置放异常对象;调用方还要逐项识别,不能把“获得了列表”当作“全部成功”。
下面制作一个三条记录的小型汇总脚本,不涉及网络请求、部署或数据库。行为依据 Python 官方协程与任务文档:https://docs.python.org/3/library/asyncio-task.html#asyncio.gather。
把三项任务定义成可独立失败的批次
输入条目为 A、B、C。每个条目由 inspect_item 独立处理,其中 B 故意抛出 ValueError,A、C 返回状态字典。批次允许部分失败,所以 collect_report 需要保留另外两个成功结果,而不是把整批直接判为失败。
任务身份保存在 items 中,原始结果保存在 results 中,通过 zip 按位置配对。结果位置代表输入身份,不代表完成先后;若任务耗时不同,也不能拿结果列表推断谁先结束。这里三个标识互不重复,真实业务如有同名条目,应另带唯一请求标识。
准备一个只依赖标准库的脚本
示例以 Python 3.11 及以上为运行环境,只使用标准库 asyncio,无需安装第三方包。将下节完整代码保存为 batch_report.py。inspect_item 的成功契约固定为字典;这点可以避免“任务正常返回一个异常对象”和“任务真的抛出异常”在结果列表中难以区分。
asyncio.sleep(0) 只是让出事件循环的控制权,不是性能测试,也不模拟真实请求超时。示例不承诺吞掉所有控制类异常,更不应拿 KeyboardInterrupt、SystemExit 来做业务容错测试。
用异常返回模式构建汇总器
import asyncio
async def inspect_item(item):
# 用本地异步等待模拟任务,不访问任何外部服务。
await asyncio.sleep(0)
if item == "B":
raise ValueError("条目内容无效")
return {"item": item, "status": "ready"}
async def collect_report(items):
# 约定每个任务成功时只返回字典,不返回异常对象。
results = await asyncio.gather(
*(inspect_item(item) for item in items),
return_exceptions=True,
)
report = {"success": [], "failed": [], "cancelled": []}
for item, result in zip(items, results):
# 子任务取消不是普通 Exception,必须单独识别。
if isinstance(result, asyncio.CancelledError):
report["cancelled"].append({"item": item})
elif isinstance(result, Exception):
report["failed"].append({
"item": item,
"error_type": type(result).__name__,
"message": str(result),
})
elif isinstance(result, BaseException):
# 不把其他控制类异常冒充业务成功。
raise result
else:
report["success"].append(result)
return report
async def main():
report = await collect_report(["A", "B", "C"])
print(report)
if __name__ == "__main__":
# 只在独立脚本中创建顶层事件循环。
asyncio.run(main())
gather 接收协程对象时会自动将其调度为任务,普通异常在 return_exceptions=True 下进入 results。分类器依次处理取消、普通异常与成功值;CancelledError 直接继承 BaseException,因此只写 isinstance(result, Exception) 会漏掉子任务取消。
三种报告容器是 success、failed、cancelled。success 保存业务值,failed 保存条目身份、错误类型和消息,cancelled 只登记取消状态。不要把异常对象直接交给 JSON 序列化器;如需完整诊断,可在内部日志保存异常信息,但不应把敏感错误详情原样公开给用户。

按固定输入核对预期报告
在普通终端环境中,读者可以使用下面命令运行;本文未执行示例,以下内容是按给定输入推导的预期,而非实测日志。
# 使用本机 Python 3.11 或更高版本执行独立脚本。 python3 batch_report.py
预期报告如下。A、C 出现在成功列表,B 出现在失败列表,取消列表为空:
{'success': [{'item': 'A', 'status': 'ready'}, {'item': 'C', 'status': 'ready'}], 'failed': [{'item': 'B', 'error_type': 'ValueError', 'message': '条目内容无效'}], 'cancelled': []}
可进一步把输入改为 A、C,此时失败列表应为空;改为只含 B,成功列表应为空。这里的数字仅是示例输入数量,不能用于评价吞吐量。代码没有主动取消任何子任务,所以主示例不应出现取消记录。
嵌入已有异步服务时保留取消语义
已有事件循环的 Web 服务或 Notebook 应在异步上下文里直接 await collect_report(items),不要在其中再次调用 asyncio.run。返回报告只是这一批任务的汇总,需要由调用层决定部分失败是否可接受,而不是无条件返回业务成功。
某个子 Task 被取消时,gather 不会仅因这一个子任务取消而取消其他成员;启用异常返回模式后,可以在相应结果位置识别 CancelledError。但等待 gather 的调用方被取消、进而使 gather 自身取消时,尚未完成的成员会收到取消请求,return_exceptions=True 也不会把整个操作的取消变成普通报告。collect_report 没有捕获取消异常,正是为了保留这一传播。
取消请求不等于底层工作已经立即停止,实际清理由协程配合完成。任务应使用 finally 释放自身资源;不要在工作协程里随意吞掉 CancelledError。批次也没有内置超时,只要有成员一直不结束,就可能持续等待,生产任务需另行明确单项时限和并发数量。

如果去掉 return_exceptions=True,默认模式会把最先抛出的普通异常传播给 await gather 的调用方,但并不会因此自动取消其他成员。若随后顶层 asyncio.run 因异常退出,其关闭事件循环期间的清理又可能取消仍在运行的任务;不能把这两件事混为一谈。
确认结果边界与常见疑问
为什么拿到结果列表后仍要判断异常?
该参数改变的是异常的交付方式,不会修复失败任务。报告是否满足业务要求,应根据 failed、cancelled 和必需成功项共同判断。
可以用 if result 判断成功吗?
不可以。正常结果可能是 0、空字符串或 None,异常对象也不能靠真值可靠分类。本文先识别异常类型,剩下的值再按业务契约处理。
失败任务会自动重试吗?
不会。若要重试,必须另行定义次数、退避和幂等性;不能把同一个已经等待过的协程对象重新当作新任务提交。本文只解决原批次的结果收集,不加入重试逻辑。
对于允许部分成功的小批独立任务,关键写法是启用异常返回模式、保持输入身份对应、逐项分类,同时让调用方取消继续传播。这样得到的是一份明确的批次报告,而不是隐藏失败的成功列表。
Java 怎样用 jcmd 查看线程栈
- 上一篇
- Java 怎样用 jcmd 查看线程栈
- 下一篇
- Python asyncio.Lock 怎样让共享计数更新保持原子性
-
- 文章 · python教程 | 26分钟前 | Python教程 · 接口设计 · Python functools dispatch register singledispatch
- Python functools.singledispatch 怎样按参数类型选择函数
- 417浏览 收藏
-
- 文章 · python教程 | 46分钟前 |
- Python ExitStack 怎样管理动态数量的资源
- 371浏览 收藏
-
- 文章 · python教程 | 50分钟前 | 异常处理 · Python教程 · Python CalledProcessError subprocess.run check=True 非零退出码
- Python subprocess.run 怎样让非零退出码变成异常
- 394浏览 收藏
-
- 文章 · python教程 | 53分钟前 |
- Python logging Filter 怎样给记录补充字段
- 426浏览 收藏
-
- 文章 · python教程 | 59分钟前 | 标准库 · 文件读取 · 编码 · python · Python pathlib UnicodeDecodeError Path.read_text 文本编码
- Python pathlib 怎样指定文本文件编码读取
- 101浏览 收藏
-
- 文章 · python教程 | 1小时前 | Python教程 · Python 字符串拼接 类型检查 typing LiteralString SQL安全
- Python LiteralString 怎样约束拼接后的字符串
- 210浏览 收藏
-
- 文章 · python教程 | 1小时前 |
- Python TypedDict 怎样标记部分必填字段
- 431浏览 收藏
-
- 文章 · python教程 | 1小时前 | 队列 · Python教程 · asyncio · Python 消费者 asyncio.Queue Queue.shutdown QueueShutDown
- Python asyncio.Queue 关闭后怎样结束消费者
- 133浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 523次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 580次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 607次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 557次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 377次使用
-
- Python sqlite3 Connection serialize 怎么导出数据库快照:备份窗口、内存占用与恢复校验
- 2026-08-26 501浏览
-
- Python监控网页状态:requests异常处理实战
- 2026-05-29 501浏览
-
- TensorFlow模型部署为API的TF Serving方法
- 2026-05-26 501浏览
-
- Python字符串编码转换:encode与decode详解
- 2026-05-16 501浏览
-
- TensorFlow裁剪无用算子方法详解
- 2026-05-15 501浏览

