Python协程怎么用async/await实现
Python 使用 `async/await` 实现协程,是提升 I/O 密集型应用性能的关键技术。本文深入浅出地介绍了如何利用 `async def` 定义协程函数,并通过 `await` 关键字暂停执行并交出控制权,从而在单线程内实现高效的并发 I/O 操作。通过 `asyncio.run()` 启动事件循环,可以轻松管理和调度多个协程任务,避免了传统多线程的资源开销和锁竞争问题。文章还探讨了 `async/await` 的适用场景,常见错误及调试技巧,助你掌握这一强大的并发编程模型,构建高性能的 Python 应用。
Python中实现协程需使用async def定义协程函数,await暂停执行并交出控制权,事件循环通过asyncio.run()启动,实现单线程内高效并发I/O操作。

Python中实现协程,核心就是利用 async 和 await 这两个关键字,它们是 asyncio 库提供的高级抽象。简单来说,协程让程序可以在等待某些操作(比如网络请求、文件读写)完成时,暂停当前任务,去执行其他任务,从而提高效率,尤其是在I/O密集型应用中。它不是真正的并行,而是一种协作式多任务,让你的代码能够“一边等水烧开,一边切菜”。
解决方案
第一次接触 async/await 的时候,可能会觉得有点绕,但一旦你掌握了它的基本模式,就会发现它其实非常直观且强大。实现协程,你主要需要关注以下几点:
- 定义协程函数: 使用
async def关键字来定义一个协程函数。这样的函数在被调用时不会立即执行,而是返回一个协程对象。 - 等待协程完成: 在另一个协程函数内部,使用
await关键字来暂停当前协程的执行,直到await后面的协程(或可等待对象,如asyncio.sleep)完成。 - 运行事件循环: 协程的执行需要一个事件循环(Event Loop)。
asyncio.run()是运行顶层协程最简单的方式,它会负责创建和管理事件循环。
下面是一个简单的例子,展示了如何定义和运行协程:
import asyncio
import time
async def fetch_data(item_id, delay):
"""
模拟一个异步的网络请求或数据库查询。
它会等待一段时间,然后返回一些数据。
"""
print(f"[{time.strftime('%H:%M:%S')}] 正在为 {item_id} 模拟数据获取,预计等待 {delay} 秒...")
await asyncio.sleep(delay) # 这是一个可等待对象,会暂停当前协程,但不阻塞事件循环
print(f"[{time.strftime('%H:%M:%S')}] {item_id} 数据获取完成。")
return f"数据 for {item_id}"
async def process_items():
"""
主协程,负责创建并运行多个数据获取任务。
"""
print(f"[{time.strftime('%H:%M:%S')}] 开始处理所有项目...")
# 创建多个协程任务,它们将并发运行
task1 = asyncio.create_task(fetch_data("商品A", 3))
task2 = asyncio.create_task(fetch_data("商品B", 1))
task3 = asyncio.create_task(fetch_data("商品C", 2))
# 等待所有任务完成。await 会暂停当前协程,直到所有指定的任务都完成。
# 这里也可以使用 asyncio.gather() 来更优雅地等待多个任务。
result_a = await task1
result_b = await task2
result_c = await task3
print(f"[{time.strftime('%H:%M:%S')}] 所有项目处理完成。")
print(f"获取到的数据: {result_a}, {result_b}, {result_c}")
if __name__ == "__main__":
# 运行主协程。asyncio.run() 会自动管理事件循环的启动和关闭。
start_time = time.perf_counter()
asyncio.run(process_items())
end_time = time.perf_counter()
print(f"\n总耗时: {end_time - start_time:.2f} 秒")
在这个例子中,fetch_data 是一个协程函数,它模拟了一个耗时的I/O操作。process_items 是另一个协程,它通过 asyncio.create_task 创建了三个 fetch_data 任务,并用 await 等待它们完成。你会发现,虽然每个任务都有自己的等待时间,但总的执行时间远小于它们等待时间的总和,因为它们是并发执行的。
async/await 背后的原理是什么?它和多线程有什么区别?
很多人刚开始都会把协程和多线程搞混,这很正常。但它们俩的哲学完全不同。要理解 async/await,核心在于理解事件循环(Event Loop)和协作式多任务。
当一个协程遇到 await 关键字时,它会暂停自己的执行,将控制权交还给事件循环。事件循环此时会检查是否有其他协程已经准备好运行(比如,之前等待的网络请求已经返回数据了)。如果有,事件循环就会去运行那个准备好的协程。当之前 await 的操作完成(比如数据真的从网络回来了),事件循环会再次调度原先暂停的协程,让它从 await 的地方继续执行。整个过程都在一个单线程中完成。
这和多线程的抢占式多任务形成了鲜明对比:
- 多线程: 操作系统是老大,它决定什么时候暂停一个线程,什么时候运行另一个线程,线程之间是“抢”CPU资源的。这意味着线程切换(上下文切换)的开销相对较大,而且在Python中,由于全局解释器锁(GIL)的存在,即便在多核CPU上,Python解释器在同一时刻也只能执行一个线程的字节码,这限制了CPU密集型任务的并行度。多线程更像是你雇了几个工人,让他们各自去完成不同的任务,但他们之间可能会抢工具,也需要协调。
- 协程(async/await): 协程是“君子协定”,它们自己决定什么时候暂停,什么时候让出控制权。它们在一个线程里“轮流”执行,没有GIL的限制(因为只有一个线程),上下文切换的开销非常小。协程更像是你一个人,但你学会了高效地切换任务:水烧上了就去切菜,菜切好了就去洗米,水开了就去煮饭。这种方式特别适合I/O密集型任务,因为等待I/O的时间可以用来做其他事情,而不是白白浪费CPU周期。
所以,核心区别在于:多线程是操作系统级别的并行或并发,适用于CPU密集型任务(如果能绕开GIL的话)和I/O密集型任务;而协程是应用程序级别的并发,非常适合I/O密集型任务,因为它能以极低的开销实现大量并发连接,但对CPU密集型任务无能为力(因为仍然是单线程)。
在实际项目中,什么时候应该考虑使用 async/await?
这其实是个很实际的问题,不是所有场景都适合 async/await。我个人觉得,它最闪耀的舞台,通常是那些需要处理大量并发I/O操作的场景。
你可以这样思考:
- 当你需要等待外部资源时: 比如网络请求(调用API、爬虫)、数据库查询、文件读写、消息队列的消费与生产等。这些操作通常涉及等待数据从慢速设备(网络、磁盘)传输,等待期间CPU是空闲的。
async/await能让你的程序在这段空闲时间里去处理其他任务,而不是傻等。- 例子: 构建高性能的Web服务(如基于FastAPI或Aiohttp)、并发抓取大量网页数据、处理大量实时消息流。
- 当你需要构建响应式、高吞吐量的服务时: 如果你的服务需要同时处理成千上万个客户端连接,并且每个连接都有一定的等待时间(比如聊天服务器、游戏后端),
asyncio就能发挥巨大作用,因为它能用一个(或少量)线程处理大量并发连接,大大节省了系统资源。- 例子: WebSocket服务器、长连接服务。
- 当你发现传统的多线程/多进程模型开销太大或管理复杂时: 线程或进程的创建和销毁、上下文切换都有不小的开销,而且多线程的同步(锁、信号量)问题也容易引入bug。协程则轻量得多,且避免了复杂的共享内存同步问题(因为通常在一个线程内)。
什么时候不适合呢?
- CPU密集型任务: 如果你的任务主要是进行大量计算,比如图像处理、复杂算法、数据分析中的聚合操作等,
async/await帮不了你。因为它还是单线程,计算密集型任务会直接阻塞整个事件循环。这种情况下,多进程(multiprocessing)才是更好的选择,它可以利用多核CPU进行真正的并行计算。 - 简单的脚本或没有I/O等待的任务: 如果你只是想写个脚本,读取几个本地文件,然后做一些纯粹的计算,那可能
asyncio反而会把事情搞复杂。引入async/await会增加代码的复杂性,如果收益不明显,就没有必要。 - 现有的同步代码库: 如果你大量依赖的第三方库是同步的(比如
requests库),那么直接在async函数里调用它们会阻塞事件循环。虽然有asyncio.to_thread()可以把同步阻塞代码放到单独的线程池里运行,但这也增加了额外的复杂性。
总而言之,async/await 是一个强大的工具,但它有自己的适用范围。在I/O密集型应用中,它能让你事半功倍;但在CPU密集型或简单任务中,它可能只是徒增烦恼。
async/await 使用中常见的坑和调试技巧有哪些?
在 async/await 的世界里遨游,虽然很爽,但偶尔也会踩到一些“暗礁”。我个人踩过最大的坑,就是在 async def 函数里,不小心调用了一个同步的阻塞I/O函数,结果整个事件循环都被卡住了,服务直接“假死”。
常见的坑:
- 在
async函数中调用阻塞的同步代码: 这是最致命的错误之一。比如在async def函数里直接用time.sleep()而不是asyncio.sleep(),或者使用requests.get()而不是aiohttp等异步HTTP库。这会直接阻塞事件循环,让你的并发优势荡然无存。- 解决方法: 尽量使用异步版本的库。如果实在需要调用同步阻塞代码,可以考虑使用
await asyncio.to_thread(sync_blocking_function, *args),它会在一个单独的线程中运行同步函数,避免阻塞主事件循环。
- 解决方法: 尽量使用异步版本的库。如果实在需要调用同步阻塞代码,可以考虑使用
- 忘记
await一个协程对象: 当你调用一个async def函数时,它返回的是一个协程对象,而不是执行结果。如果你忘记await它,这个协程就不会被调度执行,也不会报错(或者只在程序退出时报一个RuntimeWarning: coroutine '...' was never awaited)。- 示例:
my_coroutine()而不是await my_coroutine()或asyncio.create_task(my_coroutine())。 - 解决方法: 确保每个协程对象都被
await了,或者被asyncio.create_task()调度成一个任务。
- 示例:
- 不正确地处理任务异常: 如果一个通过
asyncio.create_task()创建的任务抛出异常,但你没有await这个任务,或者没有在await时捕获异常,那么这个异常可能不会立即被发现,甚至可能导致整个事件循环崩溃。- 解决方法: 始终
await你的任务,并在await语句周围使用try...except。或者,给任务添加一个done_callback来处理异常。asyncio.gather()在等待多个任务时,会将所有异常都收集起来。
- 解决方法: 始终
asyncio.run()的限制:asyncio.run()只能在主线程中调用一次,且不能嵌套。如果你在一个已经运行的事件循环中尝试再次调用它,会报错。- 解决方法: 如果你已经在事件循环中,并且需要运行另一个协程,可以直接使用
await或asyncio.create_task()。
- 解决方法: 如果你已经在事件循环中,并且需要运行另一个协程,可以直接使用
调试技巧:
开启
asyncio调试模式: 这是我调试asyncio代码的首选。你可以通过python -m asyncio your_script.py来运行脚本,或者在代码中设置loop.set_debug(True)。调试模式会提供更详细的日志输出,比如未被await的协程、阻塞事件循环的警告等。import asyncio async def main(): # ... your async code ... pass if __name__ == "__main__": # 获取当前事件循环并设置调试模式 loop = asyncio.get_event_loop() loop.set_debug(True) # 运行主协程 loop.run_until_complete(main()) loop.close()(注意:
asyncio.run()内部已经包含了事件循环的创建和关闭,如果你用asyncio.run(),则无法直接设置loop.set_debug(True)。但asyncio.run()也可以通过debug=True参数来开启调试模式:asyncio.run(main(), debug=True)。)日志记录: 在关键的协程入口和出口添加日志,记录任务的开始、结束、以及任何重要状态。这有助于追踪任务的执行流程和发现异常。
使用
asyncio.all_tasks(): 在调试时,你可以用asyncio.all_tasks()来查看当前事件循环中所有正在运行或等待的任务,这能帮你了解事件循环的“繁忙”程度和任务状态。逐步调试器: 虽然调试异步代码比同步代码复杂一些,但像 VS Code 这样的IDE提供的调试器仍然非常有用。学会如何在
await语句处设置断点,以及如何步入(step into)和步过(step over)协程调用,是提高效率的关键。理解
asyncio.create_task()和await的区别:create_task()是将一个协程包装成一个Task对象,并提交给事件循环,它会立即返回一个Task对象,协程会在后台运行。而await则是等待一个可等待对象完成,它会暂停当前协程直到被await的对象完成。理解这一点能帮你更好地控制任务的生命周期和依赖关系。
调试异步代码确实需要一些耐心和经验,但通过利用这些工具和理解其工作原理,你将能更有效地定位和解决问题。
今天关于《Python协程怎么用async/await实现》的内容就介绍到这里了,是不是学起来一目了然!想要了解更多关于的内容请关注golang学习网公众号!
Golang高效处理zip避免内存溢出技巧
- 上一篇
- Golang高效处理zip避免内存溢出技巧
- 下一篇
- Windows10任务栏卡死解决方法
-
- 文章 · python教程 | 1分钟前 |
- Python列表引用与复制技巧
- 300浏览 收藏
-
- 文章 · python教程 | 23分钟前 | 数据处理 流处理 PythonAPI PyFlink ApacheFlink
- PyFlink是什么?Python与Flink结合解析
- 385浏览 收藏
-
- 文章 · python教程 | 1小时前 | sdk 邮件API requests库 smtplib Python邮件发送
- Python发送邮件API调用方法详解
- 165浏览 收藏
-
- 文章 · python教程 | 1小时前 |
- Pandasmerge_asof快速匹配最近时间数据
- 254浏览 收藏
-
- 文章 · python教程 | 1小时前 |
- 列表推导式与生成器表达式区别解析
- 427浏览 收藏
-
- 文章 · python教程 | 1小时前 |
- Pythonopen函数使用技巧详解
- 149浏览 收藏
-
- 文章 · python教程 | 1小时前 |
- Python合并多个列表的几种方法
- 190浏览 收藏
-
- 文章 · python教程 | 2小时前 |
- Python嵌套if语句使用方法详解
- 264浏览 收藏
-
- 文章 · python教程 | 2小时前 |
- Python队列判空安全方法详解
- 293浏览 收藏
-
- 文章 · python教程 | 2小时前 |
- RuffFormatter尾随逗号设置方法
- 450浏览 收藏
-
- 文章 · python教程 | 2小时前 |
- Python读取二进制文件的缓冲方法
- 354浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- ChatExcel酷表
- ChatExcel酷表是由北京大学团队打造的Excel聊天机器人,用自然语言操控表格,简化数据处理,告别繁琐操作,提升工作效率!适用于学生、上班族及政府人员。
- 3186次使用
-
- Any绘本
- 探索Any绘本(anypicturebook.com/zh),一款开源免费的AI绘本创作工具,基于Google Gemini与Flux AI模型,让您轻松创作个性化绘本。适用于家庭、教育、创作等多种场景,零门槛,高自由度,技术透明,本地可控。
- 3398次使用
-
- 可赞AI
- 可赞AI,AI驱动的办公可视化智能工具,助您轻松实现文本与可视化元素高效转化。无论是智能文档生成、多格式文本解析,还是一键生成专业图表、脑图、知识卡片,可赞AI都能让信息处理更清晰高效。覆盖数据汇报、会议纪要、内容营销等全场景,大幅提升办公效率,降低专业门槛,是您提升工作效率的得力助手。
- 3429次使用
-
- 星月写作
- 星月写作是国内首款聚焦中文网络小说创作的AI辅助工具,解决网文作者从构思到变现的全流程痛点。AI扫榜、专属模板、全链路适配,助力新人快速上手,资深作者效率倍增。
- 4535次使用
-
- MagicLight
- MagicLight.ai是全球首款叙事驱动型AI动画视频创作平台,专注于解决从故事想法到完整动画的全流程痛点。它通过自研AI模型,保障角色、风格、场景高度一致性,让零动画经验者也能高效产出专业级叙事内容。广泛适用于独立创作者、动画工作室、教育机构及企业营销,助您轻松实现创意落地与商业化。
- 3807次使用
-
- Flask框架安装技巧:让你的开发更高效
- 2024-01-03 501浏览
-
- Django框架中的并发处理技巧
- 2024-01-22 501浏览
-
- 提升Python包下载速度的方法——正确配置pip的国内源
- 2024-01-17 501浏览
-
- Python与C++:哪个编程语言更适合初学者?
- 2024-03-25 501浏览
-
- 品牌建设技巧
- 2024-04-06 501浏览

