Python asyncio.TaskGroup 取消异常怎么收敛:从 gather 迁移到结构化并发
把 Python 异步代码从 asyncio.gather() 换成 asyncio.TaskGroup,真正需要重新确认的是失败传播:一个子任务出错后,其他任务是否应该继续、取消信号在哪里被清理、多个异常最后以什么形式交给调用方。TaskGroup 适合把这些约定收拢到一个作用域里,但它不是给 gather 换个名字。
实践要点
- TaskGroup 自 Python 3.11 提供,非取消异常会触发同组任务取消。
- 子协程捕获
CancelledError后应在清理完成后继续抛出,不能静默吞掉取消。 - 迁移验收要同时检查成功结果、兄弟任务取消、
ExceptionGroup分支和资源清理。
先看失败语义:gather 和 TaskGroup 不再是同一条路
gather 更像一个结果收集器。默认情况下,一个 awaitable 抛出异常时,异常会尽快交给等待方;其他 awaitable 是否继续运行,不能简单按“整个批次都失败”理解。线上批处理里,这种行为很容易留下仍在写文件、占用连接或继续重试的兄弟任务。
TaskGroup 的边界更明确:同组任务里首次出现非 CancelledError 异常后,剩余任务会被取消,退出 async with 时再把非取消异常组合成 ExceptionGroup。因此迁移时,异常处理位置通常要从单个 except 调整为上下文管理器外层的 except*。

最小迁移写法:把任务创建放进同一个作用域
下面的例子模拟并发读取三个分片。旧代码可以用 gather 收集结果;迁移后用 TaskGroup.create_task 创建任务,并在上下文退出后读取每个 Task 的结果。
import asyncio
async def fetch_part(name: str, delay: float, failed: bool = False) -> str:
try:
await asyncio.sleep(delay)
if failed:
raise RuntimeError(f"{name} returned 503")
return f"{name}:ok"
finally:
print(f"cleanup {name}")
async def load_all() -> list[str]:
async with asyncio.TaskGroup() as group:
tasks = [
group.create_task(fetch_part("user", 0.05)),
group.create_task(fetch_part("orders", 0.10, failed=True)),
group.create_task(fetch_part("inventory", 0.30)),
]
return [task.result() for task in tasks]
try:
asyncio.run(load_all())
except* RuntimeError as errors:
for error in errors.exceptions:
print("upstream failure:", error)
这个写法有两个容易漏掉的细节。第一,tasks 列表只保存 Task 句柄,真正的异常会在离开 TaskGroup 时抛出,所以结果列表不会在失败路径上被错误地部分返回。第二,inventory 被取消时仍会进入 finally,清理连接、临时目录或指标计时器的代码应放在那里。
旧代码的三个迁移风险
把 CancelledError 当普通业务异常吞掉
CancelledError 直接继承自 BaseException。如果协程为了记录日志捕获它,应该在清理结束后重新抛出;否则 TaskGroup 等待退出时可能一直等不到真实的取消状态,超时和资源回收都会变得难查。
async def fetch_part(name: str, delay: float) -> str:
resource = await open_resource(name)
try:
return await resource.read(delay)
except asyncio.CancelledError:
await resource.abort()
raise
finally:
await resource.close()
仍然只捕获 Exception,而没有处理 ExceptionGroup
TaskGroup 退出时可能产生 ExceptionGroup。如果调用方需要把上游 503 转成可重试错误,可以使用 except* 精确处理 RuntimeError;不要为了“让代码先跑起来”直接把所有异常打平成字符串。
把 gather 的 return_exceptions=True 原样搬过来
return_exceptions=True 的调用方往往依赖“结果数组里混着异常对象”。TaskGroup 的默认目标是失败即取消同组任务,迁移后应重新定义返回协议:是让批次失败,还是在每个子任务内部把可预期业务失败转换成一个明确的结果对象。
回归检查:故障、取消和成功路径都要跑
不要只测所有任务成功的情况。最小回归集可以固定三个输入:第一个任务失败、最后一个任务失败、外部取消父任务。每个场景都记录任务结束状态,并确认被取消的任务执行了清理分支。

async def test_failure_cancels_siblings():
try:
await load_all()
except* RuntimeError as errors:
if len(errors.exceptions) != 1:
raise RuntimeError("unexpected error count")
async def test_cleanup_log(log):
# 断言 orders、inventory 的结束记录都已出现
if not {"cleanup user", "cleanup orders", "cleanup inventory"}
如果测试依赖日志顺序,要先区分“任务完成顺序”和“清理完成顺序”。取消发生后,短任务可能先写出清理日志;不要把一次偶然的输出排列当成 API 保证。
版本边界与迁移清单
TaskGroup 自 Python 3.11 加入。项目仍支持 Python 3.10 时,不能只在一个模块里替换调用,还要处理运行环境、依赖声明和测试矩阵。更稳的切法是先把任务函数的取消清理写正确,再按运行版本选择实现;不要让兼容层改变业务异常的含义。
- 确认运行时和 CI 至少覆盖项目声明的最低 Python 版本。
- 把
CancelledError清理和重新抛出写进任务函数的测试。 - 为同组任务失败时的
ExceptionGroup建立明确的转换边界。 - 删除对“异常对象混在结果数组中”的隐式依赖,改成可读的结果类型。
- 检查超时、父任务取消和资源关闭是否仍能在 finally 中完成。
相关问题
TaskGroup 会不会取消已经完成的任务?
不会。它只会取消尚未完成的同组任务;已经完成的任务保留结果,退出时可以读取对应 Task 的 result()。
为什么 except* 不能和普通 except 混用处理同一个异常组?
except* 会按异常组中的类型拆分处理,语义和普通异常链不同。通常把 TaskGroup 的边界放在一个清晰的函数外层,在那里按业务异常类型分支,避免在深层协程里拆组。
什么时候继续使用 gather?
如果任务彼此独立,失败后仍希望其他任务继续,且调用方确实需要按输入顺序收集成功值和异常值,gather 仍然合适。选择标准是失败语义,而不是 API 新旧。
迁移完成的标志不是代码里出现了 TaskGroup,而是一次子任务失败后,剩余工作、取消清理和异常转换都符合团队约定。先把这三件事写进测试,再扩大替换范围,排查会比一次性重写整个并发层更可控。
Go timer.Reset 复用怎么写:Stop、Drain 与定时器状态检查
- 上一篇
- Go timer.Reset 复用怎么写:Stop、Drain 与定时器状态检查
- 下一篇
- Go iter.Pull 怎么安全消费迭代器:停止时机、资源释放与 goroutine 泄漏排查
-
- 文章 · python教程 | 5小时前 |
- Python logging Formatter 统一结构化字段输出
- 185浏览 收藏
-
- 文章 · python教程 | 6小时前 | 配置 · python · Python教程 · 配置管理 Python 3.15 frozendict 不可变映射
- Python 3.15 frozendict 内置类型的配置使用场景
- 192浏览 收藏
-
- 文章 · python教程 | 9小时前 | 序列化 · python · Python pickle 进程池 multiprocessing Pool
- Python multiprocessing 进程池传递不可序列化对象
- 255浏览 收藏
-
- 文章 · python教程 | 10小时前 | 数据一致性 · Python教程 · Python 事务 自动提交 sqlite3 autocommit isolation_level
- Python sqlite3 事务模式与自动提交边界
- 197浏览 收藏
-
- 文章 · python教程 | 11小时前 |
- Python contextlib.nullcontext 统一同步异步入口
- 316浏览 收藏
-
- 文章 · python教程 | 11小时前 | 面向对象 · python · Python教程 · InitVar __post_init__ Python dataclass 派生字段 field(init=False)
- Python dataclass __post_init__ 计算派生字段
- 303浏览 收藏
-
- 文章 · python教程 | 12小时前 |
- Python typing.TypeGuard 处理复杂容器类型收窄
- 437浏览 收藏
-
- 文章 · python教程 | 14小时前 |
- Python os.fspath 支持自定义路径对象
- 214浏览 收藏
-
- 文章 · python教程 | 16小时前 | 异常处理 · 异步编程 · Python教程 · asyncio · 后台任务 任务取消 CancelledError Python asyncio asyncio.shield
- Python asyncio.shield 保护后台任务免受外层取消
- 407浏览 收藏
-
- 文章 · python教程 | 18小时前 |
- Python configparser ExtendedInterpolation 组织分层配置
- 480浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 410次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 490次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 497次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 446次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 272次使用
-
- Go map 并发写 panic 怎么办:从共享 map 到可控写入路径
- 2026-06-30 123浏览
-
- 物流异常件转派时如何保留原单号与处理时限
- 2026-09-20 276浏览
-
- Go保证并发安全底层实现详解
- 2023-02-24 417浏览
-
- Go语言开发保证并发安全实例详解
- 2023-01-07 328浏览
-
- Golang 手写一个简单的并发任务 manager
- 2022-12-23 367浏览

