Python异步API调用实战技巧
2026-03-06 13:42:47
0浏览
收藏
本文深入探讨了如何利用 Python 的 asyncio 机制,在不修改原有同步函数、不引入线程或进程的前提下,实现严格按序、非阻塞地批量调用 I/O 密集型 API(如 send_to_space),既彻底摆脱同步循环带来的性能瓶颈,又精准满足“请求必须顺序发出”的硬性要求——通过 create_task 配合逐个 await,巧妙平衡并发效率与执行序控,辅以 run_in_executor(或 Python 3.9+ 的 to_thread)无缝桥接同步代码,为高吞吐、低延迟、强确定性的外部服务调用提供了简洁、可靠且符合 Python 最佳实践的标准解决方案。

本文介绍如何在保持发送顺序的前提下,将原本同步阻塞的 `send_to_space()` 调用转为非阻塞异步执行,从而显著提升批量任务吞吐量,同时无需修改原函数、不依赖线程且避免竞态风险。
在实际开发中,我们常遇到这样一类场景:需按严格顺序向外部服务(如 Space API)逐个发送请求,但每个请求本身是 I/O 密集型、耗时数十毫秒,且调用方并不关心响应内容。若直接使用同步循环(for item in items_list: send_to_space(item)),整个流程将被逐次阻塞,总耗时 ≈ N × 单次延迟 —— 这在处理数百项时会明显拖慢整体性能。
此时,asyncio 是最恰当的选择,而非多线程或多进程。原因如下:
- ✅ send_to_space() 是 I/O 等待型函数(即使当前是同步写法),本质适合异步调度;
- ✅ asyncio.create_task() 可立即提交协程并返回 Task 对象,不等待其完成,实现“发完即走”;
- ✅ await 在循环体内逐个 await create_task(...) 保证了逻辑上的严格串行性:前一个请求已发起(非必须完成),才发起下一个,既避免乱序,又消除阻塞;
- ❌ 多线程(threading.Thread)会引入 GIL 争用与上下文切换开销,且无法天然保障执行/发送顺序;
- ❌ asyncio.gather() 或 asyncio.as_completed() 会导致并发乱序,违背“必须按列表顺序发送”的硬性要求。
以下是优化后的完整实现:
import asyncio
# 假设 send_to_space 是一个同步函数(不可修改),例如:
# def send_to_space(sub_item):
# requests.post("https://api.space.example", json={"data": sub_item})
# 将其包装为可 await 的协程(推荐方式)
async def send_to_space_async(sub_item):
loop = asyncio.get_running_loop()
# 使用 run_in_executor 非阻塞调用同步函数
await loop.run_in_executor(None, send_to_space, sub_item)
# 主协程:按序发起请求,不等待响应完成
async def send_items(items_list):
for item in items_list:
sub_item = item['sub_item']
# 创建任务并立即继续下一轮 —— 发送动作已启动
task = asyncio.create_task(send_to_space_async(sub_item))
# 注意:此处不 await task,否则退化为同步
# 但我们仍需确保“发起顺序”,所以用 await task 确保前一个已提交再发下一个
# 更准确地说:await task 保证前一个请求已进入网络栈,符合“顺序发送”语义
await task
# 入口点
if __name__ == "__main__":
my_finite_list = [
{"sub_item": "A"}, {"sub_item": "B"}, {"sub_item": "C"}
]
asyncio.run(send_items(my_finite_list))⚠️ 关键注意事项:
- 若 send_to_space() 内部含大量 CPU 计算,建议改用 concurrent.futures.ProcessPoolExecutor 替代 None(默认 ThreadPoolExecutor);
- await task 并非等待响应返回,而是等待该任务被调度并开始执行(在 run_in_executor 场景下,即等待同步函数被线程池接纳)。这已满足“顺序发出”的约束;
- 若你 完全不需要任何等待(甚至不关心是否已成功提交),可改用 asyncio.create_task(...) 后不 await —— 但需额外处理异常和生命周期(如 asyncio.all_tasks() 清理),不推荐用于生产级顺序任务;
- Python ≥ 3.9 支持 asyncio.to_thread()(更简洁替代 run_in_executor),可进一步简化包装逻辑。
总结:对于“顺序 + 非阻塞 + 不改原函数”的需求,asyncio 结合 run_in_executor 是兼具简洁性、可控性与可靠性的标准解法。它让同步代码在异步框架中高效复用,是现代 Python I/O 编程的核心实践之一。
今天带大家了解了的相关知识,希望对你有所帮助;关于文章的技术知识我们会一点点深入介绍,欢迎大家关注golang学习网公众号,一起学习编程~
火山版找不到号?账号搜索问题详解
- 上一篇
- 火山版找不到号?账号搜索问题详解
- 下一篇
- ChatGPT提示太复杂,简化处理
查看更多
最新文章
-
- 文章 · python教程 | 2小时前 | python · Python 类型提示 typing get_protocol_members Protocol
- Python get_protocol_members 怎么读取 Protocol 成员集合
- 487浏览 收藏
-
- 文章 · python教程 | 13小时前 | 文件处理 · python · Python TempFile 临时文件 SpooledTemporaryFile rollover
- Python SpooledTemporaryFile 怎么手动触发写入磁盘
- 307浏览 收藏
-
- 文章 · python教程 | 16小时前 |
- Python Path.info 缓存的文件类型信息什么时候会过期
- 438浏览 收藏
-
- 文章 · python教程 | 20小时前 |
- Python asyncio.Queue shutdown 后等待者会收到什么
- 124浏览 收藏
-
- 文章 · python教程 | 1天前 |
- Python asyncio.Barrier 等待任务被取消后会怎样
- 166浏览 收藏
-
- 文章 · python教程 | 1天前 |
- Python TaskGroup 怎么主动终止整组任务
- 242浏览 收藏
-
- 文章 · python教程 | 1天前 | SQLite · 数据一致性 · Python教程 · Python SQLite 数据库备份 sqlite3.Connection.backup
- Python sqlite3.Connection.backup 怎么在线复制数据库
- 264浏览 收藏
-
- 文章 · python教程 | 1天前 | python · Python zip zipfile zipfile.Path
- Python zipfile.Path 怎么像目录一样遍历压缩包
- 370浏览 收藏
-
- 文章 · python教程 | 1天前 | 内存优化 · Python教程 · Python 大数组 PickleBuffer pickle协议5
- Python PickleBuffer 怎么减少大数组复制
- 207浏览 收藏
-
- 文章 · python教程 | 1天前 | 标准库 · Python教程 · Python Traversable importlib.resources zipimport
- Python importlib.resources.files 怎么访问压缩包内资源
- 143浏览 收藏
-
- 文章 · python教程 | 1天前 | 标准库 · python · 进程管理 · Python subprocess.Popen pipesize
- Python subprocess.Popen pipesize 什么时候有效
- 187浏览 收藏
查看更多
课程推荐
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
查看更多
AI推荐
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 347次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 410次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 411次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 369次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 193次使用
查看更多
相关文章
-
- Python sqlite3 Connection serialize 怎么导出数据库快照:备份窗口、内存占用与恢复校验
- 2026-08-26 501浏览
-
- Python监控网页状态:requests异常处理实战
- 2026-05-29 501浏览
-
- TensorFlow模型部署为API的TF Serving方法
- 2026-05-26 501浏览
-
- Python字符串编码转换:encode与decode详解
- 2026-05-16 501浏览
-
- TensorFlow裁剪无用算子方法详解
- 2026-05-15 501浏览

