Golang 实现超大文件读取的两种方法
来源:脚本之家
时间:2022-12-28 17:04:30 412浏览 收藏
本篇文章给大家分享《Golang 实现超大文件读取的两种方法》,覆盖了Golang的常见基础知识,其实一个语言的全部知识点一篇文章是不可能说完的,但希望通过这些问题,让读者对自己的掌握程度有一定的认识(B 数),从而弥补自己的不足,更好的掌握它。
Golang超大文件读取的两个方案
流处理方式
分片处理
去年的面试中我被问到超大文件你怎么处理,这个问题确实当时没多想,回来之后仔细研究和讨论了下这个问题,对大文件读取做了一个分析
比如我们有一个log文件,运行了几年,有100G之大。按照我们之前的操作可能代码会这样写:
func ReadFile(filePath string) []byte{ content, err := ioutil.ReadFile(filePath) if err != nil { log.Println("Read error") } return content }
上面的代码读取几兆的文件可以,但是如果大于你本身及其内存,那就直接翻车了。因为上面的代码,是把文件所有的内容全部都读取到内存之后返回,几兆的文件,你内存够大可以处理,但是一旦上几百兆的文件,就没那么好处理了。
那么,正确的方法有两种
第一个是使用流处理方式代码如下
func ReadFile(filePath string, handle func(string)) error { f, err := os.Open(filePath) defer f.Close() if err != nil { return err } buf := bufio.NewReader(f) for { line, err := buf.ReadLine("\n") line = strings.TrimSpace(line) handle(line) if err != nil { if err == io.EOF{ return nil } return err } return nil } }
第二个方案就是分片处理
当读取的是二进制文件,没有换行符的时候,使用下面的方案一样处理大文件
func ReadBigFile(fileName string, handle func([]byte)) error { f, err := os.Open(fileName) if err != nil { fmt.Println("can't opened this file") return err } defer f.Close() s := make([]byte, 4096) for { switch nr, err := f.Read(s[:]); true { case nr补充:golang 读取大文件处理sync.pool + bufio.NewReader(f)
看代码吧~
文件大小
package main import ( "bufio" "fmt" "io" //"math" "os" "strings" "sync" "time" ) func main() { /* 文件数据样例 {"remark": "来电时间: 2021/04/15 13:52:07客户电话:13913xx39xx ", "no": "600020510132021101310210547639", "title": "b-ae0e-0242ac100907", "call_in_date": "2021-04-15 13:52:12", "name": "张三", "_date": "2021-06-15", "name": "张三", "meet": "1"} 1、我们取出 call_in_date": "2021-04-15 13:52:1的数据写入另一个文件 */ var ( s time.Time //当前时间 file *os.File fileStat os.FileInfo err error lastLineSize int64 ) s = time.Now() if file, err = os.Open("/Users/zhangsan/Downloads/log.txt");err != nil{ fmt.Println(err) } defer func() { err = file.Close() //close after checking err }() //queryStartTime, err := time.Parse("2006-01-02T15:04:05.0000Z", startTimeArg) //if err != nil { // fmt.Println("Could not able to parse the start time", startTimeArg) // return //} // //queryFinishTime, err := time.Parse("2006-01-02T15:04:05.0000Z", finishTimeArg) //if err != nil { // fmt.Println("Could not able to parse the finish time", finishTimeArg) // return //} /** * {name:"log.log", size:911100961, mode:0x1a4, modTime:time.Time{wall:0x656c25c, ext:63742660691, loc:(*time.Location)(0x1192c80)}, sys:syscall.Stat_t{Dev:16777220, Mode:0x81a4, Nlink:0x1, Ino:0x118cba7, Uid:0x1f5, Gid:0x14, Rdev:0, Pad_cgo_0:[4]uint8{0x0, 0x0, 0x0, 0x0}, Atimespec:syscall.Timespec{Sec:1607063899, Nsec:977970393}, Mtimespec:syscall.Timespec{Sec:1607063891, Nsec:106349148}, Ctimespec:syscall.Timespec{Sec:1607063891, Nsec:258847043}, Birthtimespec:syscall.Timespec{Sec:1607063883, Nsec:425808150}, Size:911100961, Blocks:1784104, Blksize:4096, Flags:0x0, Gen:0x0, Lspare:0, Qspare:[2]int64{0, 0}} * */ if fileStat, err = file.Stat();err != nil { return } fileSize := fileStat.Size()//72849354767 offset := fileSize - 1 //检测是不是都是空行 只有\n for { var ( b []byte n int char string ) b = make([]byte, 1) //从指定位置读取 if n, err = file.ReadAt(b, offset);err != nil { fmt.Println("Error reading file ", err) break } char = string(b[0]) if char == "\n" { break } offset-- //获取一行的大小 lastLineSize += int64(n) } var ( lastLine []byte logSlice []string logSlice1 []string ) //初始化一行大小的空间 lastLine = make([]byte, lastLineSize) _, err = file.ReadAt(lastLine, offset) if err != nil { fmt.Println("Could not able to read last line with offset", offset, "and lastline size", lastLineSize) return } //根据条件进行区分 logSlice = strings.Split(strings.Trim(string(lastLine),"\n"),"next_pay_date") logSlice1 = strings.Split(logSlice[1],"\"") if logSlice1[2] == "2021-06-15"{ Process(file) } fmt.Println("\nTime taken - ", time.Since(s)) fmt.Println(err) } func Process(f *os.File) error { //读取数据的key,减小gc压力 linesPool := sync.Pool{New: func() interface{} { lines := make([]byte, 250*1024) return lines }} //读取回来的数据池 stringPool := sync.Pool{New: func() interface{} { lines := "" return lines }} //一个文件对象本身是实现了io.Reader的 使用bufio.NewReader去初始化一个Reader对象,存在buffer中的,读取一次就会被清空 r := bufio.NewReader(f) // //设置读取缓冲池大小 默认16 r = bufio.NewReaderSize(r,250 *1024) var wg sync.WaitGroup for { buf := linesPool.Get().([]byte) //读取Reader对象中的内容到[]byte类型的buf中 n, err := r.Read(buf) buf = buf[:n] if n == 0 { if err != nil { fmt.Println(err) break } if err == io.EOF { break } return err } //补齐剩下没满足的剩余 nextUntillNewline, err := r.ReadBytes('\n') //fmt.Println(string(nextUntillNewline)) if err != io.EOF { buf = append(buf, nextUntillNewline...) } wg.Add(1) go func() { ProcessChunk(buf, &linesPool, &stringPool) wg.Done() }() } wg.Wait() return nil } func ProcessChunk(chunk []byte, linesPool *sync.Pool,stringPool *sync.Pool) { //做相应的处理 }执行
go run test2.go "2020-01-01T00:00:00.0000Z" "2020-02-02T00:00:00.0000Z" /Users/zhangsan/go/src/workspace/test/log.logEOF Time taken - 20.023517675s以上为个人经验,希望能给大家一个参考,也希望大家多多支持golang学习网。如有错误或未考虑完全的地方,望不吝赐教。
今天关于《Golang 实现超大文件读取的两种方法》的内容介绍就到此结束,如果有什么疑问或者建议,可以在golang学习网公众号下多多回复交流;文中若有不正之处,也希望回复留言以告知!
声明:本文转载于:脚本之家 如有侵犯,请联系study_golang@163.com删除
相关阅读
更多>
-
400 收藏
-
235 收藏
-
359 收藏
-
426 收藏
-
495 收藏
最新阅读
更多>
-
419 收藏
-
234 收藏
-
155 收藏
-
457 收藏
-
309 收藏
-
225 收藏
课程推荐
更多>
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 507次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 484次学习
评论列表
-
- 甜美的凉面
- 很有用,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,帮助很大,总算是懂了,感谢作者分享文章内容!
- 2023-02-03 13:43:30
-
- 儒雅的月饼
- 受益颇多,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,看完之后很有帮助,总算是懂了,感谢楼主分享博文!
- 2023-01-27 12:59:55
-
- 土豪的饼干
- 这篇文章真是及时雨啊,up主加油!
- 2023-01-27 09:35:23
-
- 勤奋的小海豚
- 这篇技术文章太及时了,太详细了,写的不错,mark,关注博主了!希望博主能多写Golang相关的文章。
- 2023-01-26 15:47:09
-
- 机灵的花生
- 这篇文章太及时了,细节满满,太给力了,收藏了,关注作者大大了!希望作者大大能多写Golang相关的文章。
- 2023-01-11 18:06:06
-
- 甜美的老师
- 太全面了,已加入收藏夹了,感谢博主的这篇博文,我会继续支持!
- 2023-01-10 20:45:34
-
- 俊秀的向日葵
- 这篇文章内容真及时,楼主加油!
- 2023-01-10 13:09:39
-
- 可靠的大地
- 太详细了,收藏了,感谢老哥的这篇技术文章,我会继续支持!
- 2023-01-05 09:52:54
-
- 饱满的小懒猪
- 这篇文章真及时,太细致了,赞 👍👍,收藏了,关注大佬了!希望大佬能多写Golang相关的文章。
- 2023-01-01 09:31:19