当前位置:首页 > 文章列表 > 文章 > python教程 > Python asyncio.StreamReader.readexactly 怎样处理不足长度的输入

Python asyncio.StreamReader.readexactly 怎样处理不足长度的输入

来源:17golang原创 2026-11-20 12:49:42 0浏览 收藏

我在处理定长二进制协议时,最容易把 read() 和 readexactly() 混在一起:前者拿到当前可用数据就可能返回,后者则会一直等到指定长度,除非流先遇到 EOF。Python 的 asyncio.StreamReader.readexactly(n) 在长度不足时会抛出 IncompleteReadError,已经收到的字节放在异常的 partial 属性里。

官方文档:https://docs.python.org/3.14/library/asyncio-stream.html#asyncio.StreamReader.readexactly

固定长度字段用 readexactly(n),不要把一次 read(n) 返回就当作协议字段完整。捕获 IncompleteReadError 后读取 partial,再根据协议决定丢弃半包、缓存等待,还是关闭连接重试。

先把“读到一些”与“读满长度”分开

read(n) 的语义是最多读取 n 个字节:只要内部缓冲区有可用数据,它就可能提前返回。readexactly(n) 的语义更严格,只有凑够 n 个字节才返回;如果 EOF 在此之前到达,就抛出 IncompleteReadError。

这一区别适合用在协议头、长度字段或固定宽度序列化数据上。下面两张图是静态说明图,用来标出读取接口、缓冲区和异常对象之间的关系,不是终端截图,也不是运行证据。

asyncio StreamReader readexactly 与字节缓冲区和固定长度字段的静态关系说明图
图1:固定长度读取的结构说明图,查看 readexactly、缓冲区和协议字段之间的边界;不是截图或运行证据。

固定长度协议字段交给 readexactly

把协议中已经明确的长度作为参数传给 readexactly()。示例把前 4 个字节当作大端整数长度,再读取对应 payload;重点是第二次读取必须满足协议长度,而不是“当前网络包刚好有多少就读多少”。

import asyncio
import struct

async def read_frame(reader):
    # 先读取固定 4 字节的长度头,头部不足时直接交给上层处理。
    header = await reader.readexactly(4)
    payload_size = struct.unpack("!I", header)[0]

    # 限制单帧大小,避免异常长度占用过多内存。
    if payload_size > 1024 * 1024:
        raise ValueError("帧长度超过 1 MiB")

    # 只有读满协议声明的长度,才把 payload 交给解析器。
    return await reader.readexactly(payload_size)

这里的 !I 表示网络字节序的 4 字节无符号整数。长度检查是业务边界,不是 readexactly() 自动提供的保护;如果协议允许空 payload,也应明确把 0 当成合法值,而不是把它误判为 EOF。

长度不足时从 IncompleteReadError 取回 partial

连接提前关闭时,异常对象仍然保留已读取的部分。partial 适合做诊断、记录协议半包或交给上层决定是否续接,但它不等于一个完整帧,不能直接送入成功路径。

import asyncio

async def receive_one(reader):
    try:
        # 固定长度消息必须完整到达,否则进入异常分支。
        return await reader.readexactly(16)
    except asyncio.IncompleteReadError as exc:
        # partial 是已经收到的字节;expected 是本次目标长度。
        received = exc.partial
        expected = exc.expected
        if not received:
            # 没有收到任何字节,通常表示对端正常关闭或连接已失效。
            return None

        # 半包不能当作完整消息解析,交给上层决定缓存或重连。
        raise ConnectionError(
            f"消息不完整:收到 {len(received)} / {expected} 字节"
        ) from exc

可以把“空的 partial”和“非空的 partial”分开记录:前者更像没有新数据的 EOF,后者说明协议字段只到了一部分。不要通过再次调用 readexactly() 盲目补读同一个 reader,除非协议明确保证连接还会继续发送剩余内容。

IncompleteReadError partial 与 expected 字段及连接收尾边界的静态结构说明图
图2:不完整读取的结构说明图,展示 partial、expected 与上层收尾策略的关系;不是截图或运行证据。

把连接收尾放进明确的资源边界

如果当前函数创建了 StreamWriter,无论读取成功、长度超限还是 IncompleteReadError,都应该在 finally 中关闭它。官方文档建议调用 close() 后等待 wait_closed(),这样更容易确保底层连接完成关闭。

import asyncio

async def fetch_frame(host, port):
    reader, writer = await asyncio.open_connection(host, port)
    try:
        # 读取固定字段;异常会向调用方说明是半包还是其他协议错误。
        return await reader.readexactly(16)
    except asyncio.IncompleteReadError as exc:
        # 记录长度信息即可,避免把半包伪装成成功结果。
        print(f"连接提前结束,已收到 {len(exc.partial)} 字节")
        return None
    finally:
        # 释放 StreamWriter 持有的连接资源,并等待关闭完成。
        writer.close()
        await writer.wait_closed()

重试策略要放在更高一层:如果协议允许重新建立连接后从消息边界重来,可以只返回失败状态;如果协议支持带偏移续传,则需要额外保存消息 ID 和 partial,不能只靠 StreamReader 自动恢复。

常见问题

readexactly(0) 会等待网络数据吗?不会。读取 0 字节不需要等待,真正需要注意的是协议长度来自外部输入时先做上限检查。

能不能用 read(n) 循环替代它?可以,但要自己维护累计缓冲区、EOF 判断和异常路径。固定长度字段没有额外需求时,readexactly() 能让这个契约更直接。

partial 能直接解析吗?只有在协议允许解析不完整片段时才可以;对固定长度帧而言,它只是诊断或续传材料,不能当作完整 payload。

把 readexactly() 看作“协议长度契约”而不是普通读取函数:先确认长度来源和上限,再捕获 IncompleteReadError,最后明确半包与连接资源的去向,异步流处理就不容易把短读误判成成功。

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
Python operator.length_hint 怎样为未知长度迭代器设置估计值Python operator.length_hint 怎样为未知长度迭代器设置估计值
上一篇
Python operator.length_hint 怎样为未知长度迭代器设置估计值
Python multiprocessing forkserver 怎样处理进程启动上下文
下一篇
Python multiprocessing forkserver 怎样处理进程启动上下文
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    1144次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    1129次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    1306次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    1245次使用
  • MMBench详解:多模态大模型基准测试、功能特点与使用指南
    MMBench
    MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
    1097次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议 和 隐私政策
返回登录
  • 重置密码