tqdm跟踪文件写入与目录处理进度技巧
时间:2025-08-04 11:24:29 254浏览 收藏
各位小伙伴们,大家好呀!看看今天我又给各位带来了什么文章?本文标题是《高效使用tqdm跟踪文件写入与目录处理进度》,很明显是关于文章的文章哈哈哈,其中内容主要会涉及到等等,如果能帮到你,觉得很不错的话,欢迎各位多多点评和分享!
1. tqdm与文件操作:基本概念
tqdm是一个快速、可扩展的Python进度条库,它允许您在循环中轻松添加进度显示。通常,tqdm与迭代器结合使用,例如在文件下载时,通过迭代响应内容块来更新进度。然而,当我们需要跟踪file.write()操作的进度时,情况会略有不同,特别是当整个数据(如经过编码的字节流)在内存中一次性准备好并写入时。
file.write()函数本身是一个原子操作,它会尝试一次性将所有提供的字节写入文件。这意味着在单个write()调用内部,tqdm无法逐字节地更新进度。为了实现write()操作的进度跟踪,我们需要将待写入的数据分割成更小的块,然后在一个循环中逐块写入,并在每次写入后更新tqdm进度条。
2. 跟踪单个大文件写入的进度
当您有一个大型的字节对象(例如,通过b85encode对整个文件内容进行编码后得到的b85_bytes),并希望在将其写入新文件时显示进度,最直接的方法是手动分块写入。
实现思路:
- 确定待写入数据的总大小。
- 设置一个合适的块大小(例如,1MB或4MB)。
- 在一个循环中,每次从数据中取出chunk_size字节,写入文件,并更新tqdm进度条。
以下是一个示例,展示如何跟踪b85_bytes的写入进度:
import os from tqdm import tqdm from base64 import b85encode def write_with_progress(data_bytes, output_file_path, desc="写入进度"): """ 将大字节数据分块写入文件,并显示写入进度。 Args: data_bytes (bytes): 待写入的完整字节数据。 output_file_path (str): 输出文件路径。 desc (str): 进度条描述。 """ total_bytes_to_write = len(data_bytes) chunk_size = 1024 * 1024 # 1MB 块大小 # 使用tqdm包装写入循环 with open(output_file_path, 'wb') as f_out: with tqdm(total=total_bytes_to_write, unit='B', unit_scale=True, unit_divisor=1024, desc=desc, leave=True) as pbar: for i in range(0, total_bytes_to_write, chunk_size): chunk = data_bytes[i:i + chunk_size] f_out.write(chunk) pbar.update(len(chunk)) print(f"文件 '{os.path.basename(output_file_path)}' 写入完成。") # 示例用法: # 假设 encryptingfile.read() 获取了原始文件内容 # original_file_content = b"This is a large file content that needs to be encrypted and written." * 10000 # b85_bytes = b85encode(original_file_content) # # 模拟写入 # output_filename = "encrypted_output.b85" # write_with_progress(b85_bytes, output_filename)
注意事项:
- chunk_size的选择会影响性能和进度条更新的粒度。过小可能导致频繁的I/O操作和进度条跳动过快;过大则更新不够平滑。
- 此方法适用于已经完全在内存中准备好的大字节数据。如果数据源本身是可迭代
本篇关于《tqdm跟踪文件写入与目录处理进度技巧》的介绍就到此结束啦,但是学无止境,想要了解学习更多关于文章的相关知识,请关注golang学习网公众号!
相关阅读
更多>
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
最新阅读
更多>
-
484 收藏
-
266 收藏
-
498 收藏
-
295 收藏
-
293 收藏
-
219 收藏
-
438 收藏
-
496 收藏
-
210 收藏
-
226 收藏
-
271 收藏
-
142 收藏
课程推荐
更多>
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 511次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 498次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 484次学习