当前位置:首页 > 文章列表 > 文章 > python教程 > Python递归遍历多层字典与JSON方法

Python递归遍历多层字典与JSON方法

2026-03-22 22:52:04 0浏览 收藏
Python中遍历嵌套字典和JSON数据时,真正引发RecursionError的元凶往往不是层级过深,而是隐藏的循环引用;本文直击痛点,提供三大高效应对策略:用id()去重+集合缓存规避重复访问、以显式栈替代递归实现可控遍历、借助生成器yield按需提取目标字段,并深入揭示object_hook性能陷阱及非内置dict类型兼容性隐患,助你安全、灵活、高性能地处理任意复杂嵌套结构。

Python怎么遍历复杂字典_递归遍历无限层级JSON与Dict字典

遇到嵌套字典就报 RecursionError?先检查循环引用

Python 默认递归深度是 1000 层,但真正踩坑的往往不是层级深,而是字典里存在自引用(比如 a['parent'] = a)。这种结构会让递归函数无限绕圈,直到触发 RecursionError: maximum recursion depth exceeded。

实操建议:

  • 遍历前用 id() 或 is 判断是否已处理过当前对象,避免重复进入同一字典实例
  • 用集合(set())缓存已访问的 id(obj),而不是对象本身(避免不可哈希报错)
  • 如果明确不需要处理循环引用,加一层 try/except RecursionError 并提前返回提示,比让程序崩掉更可控

想安全遍历任意嵌套 dict/list 混合结构?用栈模拟递归

递归写法简洁,但不控深度、难中断、不方便加日志或过滤。用显式栈(list)替代系统调用栈,既能避免爆栈,又能随时跳过特定键或值类型。

实操建议:

  • 把初始数据和路径(如 ['data', 'items', 0, 'name'])打包成元组压栈
  • 每次弹出一个项,检查类型:是 dict 就遍历 .items(),是 list 或 tuple 就用 enumerate(),其他类型直接处理
  • 对 key 名敏感时(比如跳过 '__meta'),在入栈前做判断,省得白跑一趟

示例关键片段:

stack = [(data, [])]  # (当前对象, 当前路径)
while stack:
obj, path = stack.pop()
if isinstance(obj, dict):
for k, v in obj.items():
if k == '__meta': continue # 过滤
stack.append((v, path + [k]))

需要提取所有 value 中的某个字段(比如所有 'id')?别硬写递归,用生成器 yield

多数真实需求不是“打印所有键值”,而是“收集所有满足条件的值”。这时候递归函数返回列表容易吃内存,尤其 JSON 很大时;而生成器按需产出,配合 next() 或 itertools.islice 更灵活。

实操建议:

  • 函数用 yield 而非 return list,每找到一个匹配就产出,不攒全量
  • 用 isinstance(obj, (dict, list)) 统一判断可迭代容器,别漏掉 tuple 或 collections.abc.Mapping
  • 注意字符串也是 Sequence,但通常不该进递归——加 elif isinstance(obj, str) 提前 return 避免误拆

示例:

def find_values(obj, target_key):
if isinstance(obj, dict):
for k, v in obj.items():
if k == target_key:
yield v
yield from find_values(v, target_key)
elif isinstance(obj, list):
for item in obj:
yield from find_values(item, target_key)

JSON 字符串转 dict 后遍历慢?检查是否用了 json.loads(..., object_hook=...)

有些项目为了统一处理日期或 Decimal,会传 object_hook 参数给 json.loads(),但这个钩子会对**每个 dict 实例**都调用一次。如果钩子里做了复杂逻辑(比如正则匹配 key 名),性能会断崖下跌,尤其是千级嵌套时。

实操建议:

  • 优先用 object_pairs_hook 替代 object_hook,它只在解析 dict 时触发,且能拿到原始 key-value 对,避免二次遍历
  • 如果只是想把所有数字转 Decimal,考虑用 parse_float=Decimal 这类专用参数,比通用 hook 快一个数量级
  • 不确定瓶颈在哪?用 python -m cProfile your_script.py 看 object_hook 占了多少 time

最常被忽略的是:你以为在遍历 dict,其实拿到的是 collections.OrderedDict 或第三方库封装的类 dict 对象,它们的 .items() 行为可能和内置 dict 不一致,甚至不支持 isinstance(x, dict)。动手前先 type(obj).__name__ 看一眼。

今天带大家了解了的相关知识,希望对你有所帮助;关于文章的技术知识我们会一点点深入介绍,欢迎大家关注golang学习网公众号,一起学习编程~

Java长期运行优化与稳定性提升技巧Java长期运行优化与稳定性提升技巧
上一篇
Java长期运行优化与稳定性提升技巧
Golang指针与切片性能对比解析
下一篇
Golang指针与切片性能对比解析
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    256次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    299次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    275次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    254次使用
  • MMBench详解:多模态大模型基准测试、功能特点与使用指南
    MMBench
    MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
    61次使用