当前位置:首页 > 文章列表 > 文章 > java教程 > Java 怎么逐行读取大文件并关闭文件流

Java 怎么逐行读取大文件并关闭文件流

来源:17golang原创 2026-09-06 07:58:13 0浏览 收藏

Java 逐行读取大文件,重点不是把 readLine() 写进循环,而是控制“数据何时进入内存”和“文件何时关闭”。对只需要逐条处理的日志、CSV 或导出文件,优先使用 Files.lines(path, charset),让它惰性产生 Stream,并把流放进 try-with-resources。不要用 readAllLinesreadString 把超大文件一次性装进集合或字符串。

要点速览
  • Files.lines 按需产生行,但返回流持有打开的文件。
  • 必须关闭 Stream,最稳妥的写法是 try-with-resources。
  • 中文文件显式传入 StandardCharsets.UTF_8;消费阶段的 IO 异常可能包装为 UncheckedIOException

先区分流式读取和一次性读取

Files.readAllLines 返回 ListFiles.readString 返回完整字符串,两者适合小文件或确实需要全部内容的场景。大文件逐行处理则应保持“读一行、处理一行”的边界,不要在最后又 collect(Collectors.toList()),否则只是把内存压力换了一个写法。

Files.lines(path) 默认按 UTF-8 解码;如果来源文件是 GBK、ISO-8859-1 等编码,直接使用无字符集重载会得到乱码。把编码作为方法参数传入,排查时也更容易确认输入契约。

Java Files.lines 大文件逐行读取中的路径、字符集、流和终止操作静态关系
图1:查看 Path、Files.lines、Charset、Stream 与终止操作之间的资源边界。

用 try-with-resources 关闭 Files.lines 返回的流

Oracle 文档明确说明,Files.lines 返回的流引用着打开的文件,关闭流才会关闭文件。因此不要把它写成没有生命周期管理的单行链式表达式。下面的示例只保留必要状态:遇到包含目标词的行就计数,整个过程中不会保存所有行。

import java.io.IOException;
import java.nio.charset.StandardCharsets;
import java.nio.file.Files;
import java.nio.file.Path;
import java.util.stream.Stream;

public class LargeFileReader {
    public static long countMatches(Path path, String keyword) throws IOException {
        // Stream 持有文件资源,必须由 try-with-resources 负责关闭
        try (Stream lines = Files.lines(path, StandardCharsets.UTF_8)) {
            // 逐行判断并计数,不把整个文件收集到 List
            return lines.filter(line -> line.contains(keyword)).count();
        }
    }
}

这里的终止操作是 count()。如果要对每行写数据库、提取字段或输出摘要,也应在流中完成处理;如果业务允许提前结束,可以使用 findFirstanyMatch 等短路操作,但仍要让 try-with-resources 自然退出。

乱码和异常要按资源边界排查

打开文件时的失败通常以 IOException 直接抛出;文件已经打开后,惰性读取发生在终止操作期间,文档说明后续 IO 异常可能包装成 UncheckedIOException。因此排查顺序应是:先确认路径和权限,再确认字符集,最后检查消费流的代码是否把异常吞掉。

现象优先检查处理方向
中文乱码文件实际编码传入对应 Charset,不要盲用默认值
文件句柄持续增加Stream 是否关闭改为 try-with-resources,避免保存未关闭的流
运行中出现 UncheckedIOException终止操作和底层读取在边界处记录路径,按原始原因处理或转换异常
内存仍然上涨是否 collect 或缓存行改为逐行落库、分批提交或只保留聚合结果

如果必须使用传统 API,也可以用 Files.newBufferedReader(path, charset) 返回 BufferedReader,同样放入 try-with-resources。它更适合需要显式调用 readLine()、控制循环或处理自定义结束条件的代码;关键原则仍然是由创建资源的作用域负责关闭。

Java 大文件读取中 Files.lines 与 newBufferedReader 的静态资源关系
图2:对比 Files.lines 与 newBufferedReader 两条读取入口,它们都应把文件资源纳入关闭边界。

上线前的逐行读取检查清单

  • 文件很大且只需逐条处理时,使用 Files.linesnewBufferedReader,不要默认 readAllLines
  • 字符集写在调用处,避免依赖环境默认编码。
  • 不要把未关闭的 Stream 交给更长生命周期的对象。
  • 检查终止操作是否偷偷收集全部行,并为异常日志保留文件路径和处理上下文。

相关问题

Files.lines 会把整个大文件读进内存吗?

它按流消费惰性读取,不等同于把全部内容加载成 List;但下游如果 collect 或缓存所有行,仍会失去这个优势。

Files.lines 默认是什么字符集?

无字符集重载按 UTF-8 解码。来源不是 UTF-8 时,应使用带 Charset 的重载。

为什么一定要关闭 Stream?

因为流引用着打开的文件,关闭 Stream 才能及时释放文件资源;try-with-resources 还能覆盖异常路径。

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
scene支持Jetpack Compose吗?ComposeView接入、Fragment迁移与边界说明scene支持Jetpack Compose吗?ComposeView接入、Fragment迁移与边界说明
上一篇
scene支持Jetpack Compose吗?ComposeView接入、Fragment迁移与边界说明
Go 临时文件在 Windows 上为什么无法被另一个程序打开
下一篇
Go 临时文件在 Windows 上为什么无法被另一个程序打开
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • SuperCLUE中文大模型评测基准:功能、能力维度与应用指南
    SuperCLUE
    SuperCLUE是权威的中文大语言模型综合评测基准,涵盖语言理解、知识应用、AI Agent智能体及安全性等12项核心能力。通过多轮对话与客观测试,定期发布榜单与技术报告,为模型研发、优化及行业选型提供科学依据。
    160次使用
  • C-Eval中文评测基准:大语言模型多学科能力评估指南
    C-Eval
    深入了解C-Eval中文评估套件,涵盖52个学科与4级难度。本文详解其功能特点、Zero-shot/Few-shot使用方法及代码示例,助您全面评测LLM中文理解与泛化能力。
    88次使用
  • ClickPrompt:AI提示词生成与优化工具,支持Stable Diffusion、ChatGPT及代码辅助
    ClickPrompt
    ClickPrompt是一款专为AI提示词编写者设计的开源在线工具,支持Stable Diffusion绘图、ChatGPT对话及GitHub Copilot代码辅助。提供Prompt自动生成、一键运行、社区分享及可视化优化功能,帮助用户高效获取精准AI输出。
    47次使用
  • PromptHero官网:AI提示词搜索、优化与学习平台,支持Midjourney/Stable Diffusion
    PromptHero
    PromptHero是专业的AI提示词搜索引擎与优化平台,支持Stable Diffusion、Midjourney等主流模型。提供海量提示词库、分类搜索、在线课程及社区互动,助力用户高效生成高质量AI图像与文本。
    30次使用
  • OpenArt免费开源指南:Stable Diffusion Prompt Book提示词手册详解
    Stable Diffusion Prompt Book
    深入解析OpenArt推出的Stable Diffusion Prompt Book,这本免费的开源提示词指南涵盖从基础语法到高级技巧,提供风格化词库与参数建议,助您优化AI绘画生成效果。
    33次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议隐私政策
返回登录
  • 重置密码