当前位置:首页 > 文章列表 > 文章 > python教程 > Python mmap 修改文件后如何保证变更刷回磁盘

Python mmap 修改文件后如何保证变更刷回磁盘

来源:17golang原创 2026-09-14 20:59:46 0浏览 收藏

故障通常出在“内存里的内容变了”和“磁盘上的文件已经按要求落稳”被当成一件事。Python 的 mmap 修改成功,只能说明映射对象接受了写入;要让底层文件及时看到变化,需要使用可写共享映射并调用 mm.flush()。如果场景还要尽量应对进程崩溃或突然断电,则在它之后对同一个文件描述符调用 os.fsync()

要点速览
  • ACCESS_WRITE 会把修改关联到原文件,ACCESS_COPY 只改写时复制的私有映射。
  • mmap.flush() 负责映射内容的写回;更强的持久化诉求再接 os.fsync(f.fileno())
  • 局部刷盘的 offset 要满足页面或分配粒度对齐,映射关闭也不会替你关闭原文件。

先确认映射模式真的会更新底层文件

排查第一步不是立刻加 fsync,而是回到构造映射的那一行。文件应以可更新的二进制模式打开,例如 r+b;映射则应明确指定 access=mmap.ACCESS_WRITE。这种映射对字节或切片的赋值会影响底层文件。

相反,ACCESS_COPY 是写时复制:程序可以在映射对象里看到新值,但这些值不会更新原文件。它适合临时试算,不适合作为“修改配置文件后保存”的实现。若原文件对象使用了缓冲写入,创建映射前还要先对文件对象执行 f.flush(),让待写缓冲先可见。

把 mmap.flush 和 os.fsync 排成两层

这两个调用解决的是相邻但不同的边界。mm.flush() 把内存映射中的变更刷回文件写回路径;Python 文档还明确指出,不调用它时,不能保证对象销毁前改动已经写回。os.fsync() 面向文件描述符,适用于需要更强落盘语义的场景。它会增加 I/O 等待,不应在每个字节修改后调用,而应放在一批修改完成之后。

Python mmap ACCESS_WRITE 映射经过 mmap.flush 和 os.fsync 两层写回边界的结构示意图
图1:Python mmap 的映射修改先经过 mmap.flush,再按持久化要求交给 os.fsync;这是原创操作关系示意图,不是真实运行截图。
import mmap
import os

path = "records.bin"
offset = 128
replacement = b"READY"

with open(path, "r+b", buffering=0) as f:
    # ACCESS_WRITE 让切片赋值关联到底层文件,而不是私有副本。
    with mmap.mmap(f.fileno(), 0, access=mmap.ACCESS_WRITE) as mm:
        # 这里保持替换长度一致,避免把固定布局后的字段整体错位。
        mm[offset:offset + len(replacement)] = replacement
        # 先提交映射页;失败时让异常继续向上抛出,不要假装已保存。
        mm.flush()
        # 需要更强的崩溃持久性时,再同步同一个文件描述符。
        os.fsync(f.fileno())

上面的顺序表达的是一个工程选择:普通批量修改至少显式调用 flush();配置、索引或恢复点文件若不能接受只停留在缓存层,则把 fsync() 放在 flush 成功之后。它仍不是事务机制,多个文件之间的一致提交需要临时文件、重命名或数据库等更高层方案。

局部刷盘、缓冲和关闭顺序

整段映射刷盘最简单:直接调用 mm.flush()。需要减少刷盘范围时,可以传入 offsetsize,但 offset 必须按当前平台的页面大小或分配粒度对齐;把业务字段的任意偏移直接传进去,可能得到 OSError。因此固定格式文件通常先按页面范围计算,再决定是否值得做局部刷盘。

现象优先检查处理方向
映射里是新值,重新打开文件却是旧值access 模式、是否调用 flush改用 ACCESS_WRITE,并在一批写入后 flush
映射前读到旧内容原文件是否有缓冲写入创建映射前对文件对象 flush
局部 flush 报对齐错误offset 是否满足页面/分配粒度扩大到对齐后的范围,或直接整段 flush
以为 close 会关闭所有资源mmap 与 file 的生命周期用嵌套 with 分别关闭映射和文件
Python mmap 局部刷盘对齐、ACCESS_COPY、文件缓冲和关闭顺序的边界关系示意图
图2:把 Python mmap 的访问模式、局部 offset 对齐、文件缓冲与资源关闭分开记录,便于定位“看似写入却未落盘”的原因;这是原创结构示意图。

mm.close() 只关闭映射对象,不会关闭原先打开的文件;嵌套 with 可以让两种资源的退出顺序清晰可见。若 flush 或 fsync 抛出异常,应把这次写入当作未完成,记录文件、范围和异常,而不是仅依赖进程退出时的隐式清理。

用一条可复查的判断链收尾

遇到“修改偶尔消失”,可以按这条顺序复盘:文件是否以 r+b 打开;映射是否是 ACCESS_WRITE;赋值长度是否符合文件格式;是否在批次末尾调用 mm.flush();是否真的需要并成功执行 os.fsync();局部刷盘的 offset 是否对齐;最后才看并发写入、文件替换和文件系统本身的恢复策略。这样能把 Python API 语义与更高层的事务问题分开,避免给所有写入机械地加同步调用。

常见问题

只调用 mmap.flush,不调用 os.fsync,可以吗?

如果目标是让映射修改进入文件写回路径,通常可以;如果目标是提高突然断电后的持久性,应在 flush 成功后对文件描述符 fsync。两者不是重复调用。

ACCESS_COPY 修改后为什么重新打开文件看不到?

因为它是写时复制映射,修改只保留在当前映射的私有副本中。需要保存原文件时使用 ACCESS_WRITE,并安排 flush。

mm.close() 以后还要关闭 f 吗?

要。mmap.close 只释放映射对象,原文件对象仍由自己的 with 语句管理;嵌套上下文能避免遗漏关闭。

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
SkildArt做AIGC营销素材效果不好怎么办?从输入到验收逐项排查SkildArt做AIGC营销素材效果不好怎么办?从输入到验收逐项排查
上一篇
SkildArt做AIGC营销素材效果不好怎么办?从输入到验收逐项排查
Go csv.Reader Comment 如何跳过输入中的注释行
下一篇
Go csv.Reader Comment 如何跳过输入中的注释行
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    26次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    130次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    57次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    22次使用
  • OpenCompass大模型评测体系详解:功能、使用指南与应用场景
    OpenCompass
    OpenCompass是上海AI实验室推出的开源大模型评测平台,提供CompassKit、CompassHub和CompassRank三大核心组件,支持LLM及多模态模型的一站式标准化评估与排行榜查询。
    80次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议隐私政策
返回登录
  • 重置密码