Python递归遍历多层字典与JSON方法
2026-03-22 22:52:04
0浏览
收藏
Python中遍历嵌套字典和JSON数据时,真正引发RecursionError的元凶往往不是层级过深,而是隐藏的循环引用;本文直击痛点,提供三大高效应对策略:用id()去重+集合缓存规避重复访问、以显式栈替代递归实现可控遍历、借助生成器yield按需提取目标字段,并深入揭示object_hook性能陷阱及非内置dict类型兼容性隐患,助你安全、灵活、高性能地处理任意复杂嵌套结构。

遇到嵌套字典就报 RecursionError?先检查循环引用
Python 默认递归深度是 1000 层,但真正踩坑的往往不是层级深,而是字典里存在自引用(比如 a['parent'] = a)。这种结构会让递归函数无限绕圈,直到触发 RecursionError: maximum recursion depth exceeded。
实操建议:
- 遍历前用
id()或is判断是否已处理过当前对象,避免重复进入同一字典实例 - 用集合(
set())缓存已访问的id(obj),而不是对象本身(避免不可哈希报错) - 如果明确不需要处理循环引用,加一层
try/except RecursionError并提前返回提示,比让程序崩掉更可控
想安全遍历任意嵌套 dict/list 混合结构?用栈模拟递归
递归写法简洁,但不控深度、难中断、不方便加日志或过滤。用显式栈(list)替代系统调用栈,既能避免爆栈,又能随时跳过特定键或值类型。
实操建议:
- 把初始数据和路径(如
['data', 'items', 0, 'name'])打包成元组压栈 - 每次弹出一个项,检查类型:是
dict就遍历.items(),是list或tuple就用enumerate(),其他类型直接处理 - 对 key 名敏感时(比如跳过
'__meta'),在入栈前做判断,省得白跑一趟
示例关键片段:
stack = [(data, [])] # (当前对象, 当前路径)
while stack:
obj, path = stack.pop()
if isinstance(obj, dict):
for k, v in obj.items():
if k == '__meta': continue # 过滤
stack.append((v, path + [k]))
需要提取所有 value 中的某个字段(比如所有 'id')?别硬写递归,用生成器 yield
多数真实需求不是“打印所有键值”,而是“收集所有满足条件的值”。这时候递归函数返回列表容易吃内存,尤其 JSON 很大时;而生成器按需产出,配合 next() 或 itertools.islice 更灵活。
实操建议:
- 函数用
yield而非return list,每找到一个匹配就产出,不攒全量 - 用
isinstance(obj, (dict, list))统一判断可迭代容器,别漏掉tuple或collections.abc.Mapping - 注意字符串也是
Sequence,但通常不该进递归——加elif isinstance(obj, str)提前 return 避免误拆
示例:
def find_values(obj, target_key):
if isinstance(obj, dict):
for k, v in obj.items():
if k == target_key:
yield v
yield from find_values(v, target_key)
elif isinstance(obj, list):
for item in obj:
yield from find_values(item, target_key)
JSON 字符串转 dict 后遍历慢?检查是否用了 json.loads(..., object_hook=...)
有些项目为了统一处理日期或 Decimal,会传 object_hook 参数给 json.loads(),但这个钩子会对**每个 dict 实例**都调用一次。如果钩子里做了复杂逻辑(比如正则匹配 key 名),性能会断崖下跌,尤其是千级嵌套时。
实操建议:
- 优先用
object_pairs_hook替代object_hook,它只在解析 dict 时触发,且能拿到原始 key-value 对,避免二次遍历 - 如果只是想把所有数字转
Decimal,考虑用parse_float=Decimal这类专用参数,比通用 hook 快一个数量级 - 不确定瓶颈在哪?用
python -m cProfile your_script.py看object_hook占了多少 time
最常被忽略的是:你以为在遍历 dict,其实拿到的是 collections.OrderedDict 或第三方库封装的类 dict 对象,它们的 .items() 行为可能和内置 dict 不一致,甚至不支持 isinstance(x, dict)。动手前先 type(obj).__name__ 看一眼。
今天带大家了解了的相关知识,希望对你有所帮助;关于文章的技术知识我们会一点点深入介绍,欢迎大家关注golang学习网公众号,一起学习编程~
Java长期运行优化与稳定性提升技巧
- 上一篇
- Java长期运行优化与稳定性提升技巧
- 下一篇
- Golang指针与切片性能对比解析
查看更多
最新文章
-
- 文章 · python教程 | 46分钟前 | Python教程 · Python 相对路径 is_file pathlib Path.resolve
- Python pathlib 相对路径规范化与文件判断
- 144浏览 收藏
-
- 文章 · python教程 | 3小时前 | python · 异步编程 · asyncio · Python CancelledError asyncio.timeout TimeoutError
- Python asyncio.timeout 嵌套取消与异常传播
- 373浏览 收藏
-
- 文章 · python教程 | 11小时前 |
- Python heapq 最大堆 API 怎么避免手动取负数
- 397浏览 收藏
-
- 文章 · python教程 | 17小时前 | python · Python 不可变对象 namedtuple dataclass copy.replace
- Python copy.replace 怎么更新不可变对象字段
- 245浏览 收藏
-
- 文章 · python教程 | 21小时前 | python ·
- Python NamedTemporaryFile 的 delete_on_close 怎么设置
- 311浏览 收藏
-
- 文章 · python教程 | 1天前 |
- Python itertools.batched strict 参数什么时候会报错
- 306浏览 收藏
-
- 文章 · python教程 | 1天前 |
- Python ExceptionGroup split 怎么按异常类型拆分
- 311浏览 收藏
-
- 文章 · python教程 | 1天前 |
- Python dataclass slots 与 weakref_slot 怎么一起用
- 207浏览 收藏
-
- 文章 · python教程 | 1天前 | python · Python tarfile extraction_filter data_filter
- Python tarfile extraction_filter 怎么阻止危险路径
- 232浏览 收藏
-
- 文章 · python教程 | 1天前 |
- Python pathlib.Path.walk 怎么剪枝目录遍历
- 159浏览 收藏
查看更多
课程推荐
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
查看更多
AI推荐
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 256次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 299次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 275次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 254次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 61次使用
查看更多
相关文章
-
- Python sqlite3 Connection serialize 怎么导出数据库快照:备份窗口、内存占用与恢复校验
- 2026-08-26 501浏览
-
- Python监控网页状态:requests异常处理实战
- 2026-05-29 501浏览
-
- TensorFlow模型部署为API的TF Serving方法
- 2026-05-26 501浏览
-
- Python字符串编码转换:encode与decode详解
- 2026-05-16 501浏览
-
- TensorFlow裁剪无用算子方法详解
- 2026-05-15 501浏览
