Python递归遍历多层字典与JSON方法
时间:2026-03-22 22:52:04 135浏览 收藏
Python中遍历嵌套字典和JSON数据时,真正引发RecursionError的元凶往往不是层级过深,而是隐藏的循环引用;本文直击痛点,提供三大高效应对策略:用id()去重+集合缓存规避重复访问、以显式栈替代递归实现可控遍历、借助生成器yield按需提取目标字段,并深入揭示object_hook性能陷阱及非内置dict类型兼容性隐患,助你安全、灵活、高性能地处理任意复杂嵌套结构。

遇到嵌套字典就报 RecursionError?先检查循环引用
Python 默认递归深度是 1000 层,但真正踩坑的往往不是层级深,而是字典里存在自引用(比如 a['parent'] = a)。这种结构会让递归函数无限绕圈,直到触发 RecursionError: maximum recursion depth exceeded。
实操建议:
- 遍历前用
id()或is判断是否已处理过当前对象,避免重复进入同一字典实例 - 用集合(
set())缓存已访问的id(obj),而不是对象本身(避免不可哈希报错) - 如果明确不需要处理循环引用,加一层
try/except RecursionError并提前返回提示,比让程序崩掉更可控
想安全遍历任意嵌套 dict/list 混合结构?用栈模拟递归
递归写法简洁,但不控深度、难中断、不方便加日志或过滤。用显式栈(list)替代系统调用栈,既能避免爆栈,又能随时跳过特定键或值类型。
实操建议:
- 把初始数据和路径(如
['data', 'items', 0, 'name'])打包成元组压栈 - 每次弹出一个项,检查类型:是
dict就遍历.items(),是list或tuple就用enumerate(),其他类型直接处理 - 对 key 名敏感时(比如跳过
'__meta'),在入栈前做判断,省得白跑一趟
示例关键片段:
stack = [(data, [])] # (当前对象, 当前路径)
while stack:
obj, path = stack.pop()
if isinstance(obj, dict):
for k, v in obj.items():
if k == '__meta': continue # 过滤
stack.append((v, path + [k]))
需要提取所有 value 中的某个字段(比如所有 'id')?别硬写递归,用生成器 yield
多数真实需求不是“打印所有键值”,而是“收集所有满足条件的值”。这时候递归函数返回列表容易吃内存,尤其 JSON 很大时;而生成器按需产出,配合 next() 或 itertools.islice 更灵活。
实操建议:
- 函数用
yield而非return list,每找到一个匹配就产出,不攒全量 - 用
isinstance(obj, (dict, list))统一判断可迭代容器,别漏掉tuple或collections.abc.Mapping - 注意字符串也是
Sequence,但通常不该进递归——加elif isinstance(obj, str)提前 return 避免误拆
示例:
def find_values(obj, target_key):
if isinstance(obj, dict):
for k, v in obj.items():
if k == target_key:
yield v
yield from find_values(v, target_key)
elif isinstance(obj, list):
for item in obj:
yield from find_values(item, target_key)
JSON 字符串转 dict 后遍历慢?检查是否用了 json.loads(..., object_hook=...)
有些项目为了统一处理日期或 Decimal,会传 object_hook 参数给 json.loads(),但这个钩子会对**每个 dict 实例**都调用一次。如果钩子里做了复杂逻辑(比如正则匹配 key 名),性能会断崖下跌,尤其是千级嵌套时。
实操建议:
- 优先用
object_pairs_hook替代object_hook,它只在解析 dict 时触发,且能拿到原始 key-value 对,避免二次遍历 - 如果只是想把所有数字转
Decimal,考虑用parse_float=Decimal这类专用参数,比通用 hook 快一个数量级 - 不确定瓶颈在哪?用
python -m cProfile your_script.py看object_hook占了多少 time
最常被忽略的是:你以为在遍历 dict,其实拿到的是 collections.OrderedDict 或第三方库封装的类 dict 对象,它们的 .items() 行为可能和内置 dict 不一致,甚至不支持 isinstance(x, dict)。动手前先 type(obj).__name__ 看一眼。
今天带大家了解了的相关知识,希望对你有所帮助;关于文章的技术知识我们会一点点深入介绍,欢迎大家关注golang学习网公众号,一起学习编程~
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
文章 · python教程 | 1天前 | 日志 · 工程化 · 异步编程 · 故障排查 · 可观测性 · Python教程 · Python 异步任务 可观测性 logging contextvars 生产实践 QueueHandler QueueListener request_id JSON日志189 收藏
-
文章 · python教程 | 2天前 | 依赖管理 · 工程化 · CI · 生产实践 · Python教程 · 打包发布 · Python build 依赖管理 twine wheel 打包发布 pyproject.toml dependency-groups pylock.toml sdist479 收藏
-
文章 · python教程 | 2天前 | WEB开发 · 工程化 · 配置管理 · flask · 生产实践 · Python教程 · Python Flask G 配置管理 请求上下文 应用上下文 生产实践 current_app teardown app factory257 收藏
-
文章 · python教程 | 2天前 | ORM · Django · 异步编程 · 生产实践 · Python教程 · 后端开发 · Python Django 性能优化 orm 事务 ASGI 生产实践 async view sync_to_async310 收藏
-
文章 · python教程 | 2天前 | 性能优化 · 异步编程 · fastapi · 生产实践 · Python教程 · API服务 · Python API服务 FastAPI asyncio httpx 生产实践 lifespan BackgroundTasks run_in_threadpool411 收藏
-
文章 · python教程 | 3天前 | 工程化 · 自动化测试 · pytest · CI · 生产实践 · Python教程 · Python CI pytest fixture tmp_path monkeypatch pytest-xdist 测试稳定性303 收藏
-
文章 · python教程 | 3天前 | sqlalchemy · 异步编程 · fastapi · 生产实践 · Python教程 · Python 连接池 FastAPI sqlalchemy asyncio AsyncSession340 收藏
-
文章 · python教程 | 3天前 | 性能优化 · fastapi · 生产实践 · Python教程 · Pydantic · Python 性能优化 FastAPI Pydantic v2 TypeAdapter validate_json342 收藏
-
文章 · python教程 | 3天前 | 性能优化 · gil · 生产实践 · Python教程 · CPython · Python 性能优化 线程安全 gil CPython free-threaded381 收藏
-
文章 · python教程 | 4天前 | 异步编程 · fastapi · 后端架构 · Python教程 · asyncio · Python 异步编程 FastAPI asyncio TaskGroup 生产实践496 收藏
-
447 收藏
-
189 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 485次学习