深入解析golang bufio
来源:脚本之家
时间:2023-01-07 11:57:27 467浏览 收藏
知识点掌握了,还需要不断练习才能熟练运用。下面golang学习网给大家带来一个Golang开发实战,手把手教大家学习《深入解析golang bufio》,在实现功能的过程中也带大家重新温习相关知识点,温故而知新,回头看看说不定又有不一样的感悟!
bufio 包介绍
bufio包实现了有缓冲的I/O。它包装一个io.Reader或io.Writer接口对象,创建另一个也实现了该接口,且同时还提供了缓冲和一些文本I/O的帮助函数的对象。
golang bufio
当频繁地对少量数据读写时会占用IO,造成性能问题。golang的bufio
库使用缓存来一次性进行大块数据的读写,以此降低IO系统调用,提升性能。
在Transport中可以设置一个名为WriteBufferSize
的参数,该参数指定了底层(Transport.dialConn
)写buffer的大小。
tr := &http.Transport{ WriteBufferSize: 64 * 1024, }
pconn.br = bufio.NewReaderSize(pconn, t.readBufferSize()) pconn.bw = bufio.NewWriterSize(persistConnWriter{pconn}, t.writeBufferSize())
使用bufio进行写
可以使用bufio.NewWriter
初始化一个大小为4096字节的Writer
(见下),或使用bufio.NewWriterSize
初始化一个指定大小的Writer
。
Writer
中的主要参数为缓存区buf
,缓存区中的数据偏移量n
以及写入接口wr
:
type Writer struct { err error buf []byte n int wr io.Writer }
bufio.Writer
方法可以一次性写入缓存中的数据,通常有如下三种情况:
- 缓存中满数据
- 缓存中仍有空间
- 待写入的数据大于缓存的大小
缓存中满数据
当缓存中满数据时,会执行写操作。
缓存中仍有空间
如果缓存中仍有数据,则不会执行写入动作,除非调用Flush()
方法。
待写入的数据大于缓存的大小
由于此时缓存无法缓存足够的数据,此时会跳过缓存直接执行写操作
type Writer int func (*Writer) Write(p []byte) (n int, err error) { fmt.Printf("Writing: %s\n", p) return len(p), nil } func main() { w := new(Writer) bw1 := bufio.NewWriterSize(w, 4) // Case 1: Writing to buffer until full bw1.Write([]byte{'1'}) bw1.Write([]byte{'2'}) bw1.Write([]byte{'3'}) bw1.Write([]byte{'4'}) // write - buffer is full // Case 2: Buffer has space bw1.Write([]byte{'5'}) //此时buffer中无法容纳更多的数据,执行写操作,写入 []byte{'1','2','3','4'} err = bw1.Flush() // forcefully write remaining if err != nil { panic(err) } // Case 3: (too) large write for buffer // Will skip buffer and write directly bw1.Write([]byte("12345")) //buffer不足,直接执行写操作 //结果: Writing: 1234 Writing: 5 Writing: 12345
缓存重用
申请缓存对性能是有损耗的,可以使用Reset
方法重置缓存,其内部只是将Writer
的数据偏移量n
置0。
wr := new(Writer) bw := bufio.NewWriterSize(wr,2) bw.Reset(wr)
获取缓存的可用空间数
Available()
方法可以返回缓存的可用空间数,即len(Writer.buf)-Writer.n
使用bufio进行读
与用于写数据的Writer
类似,读数据也有一个Reader
,可以使用NewReader
初始化一个大小为4096字节的Reader
,或使用NewReaderSize
初始化一个指定大小的Reader
(要求最小为16字节)。Reader
也有一个记录偏移量的变量r
type Reader struct { buf []byte rd io.Reader // reader provided by the client r, w int // buf read and write positions err error lastByte int // last byte read for UnreadByte; -1 means invalid lastRuneSize int // size of last rune read for UnreadRune; -1 means invalid }
Peek
该方法会返回buf中的前n个字节的内容,但与Read操作不同的是,它不会消费缓存中的数据,即不会增加数据偏移量,因此通常也会用于判断是否读取结束(EOF)。通常有如下几种情况:
- 如果peak的值小于缓存大小,则返回相应的内容
- 如果peak的值大于缓存大小,则返回bufio.ErrBufferFull错误
- 如果peak的值包含EOF且小于缓存大小,则返回EOF
Read
将数据读取到p
,涉及将数据从缓存拷贝到p
。
func (b *Reader) Read(p []byte) (n int, err error)
ReadSlice
该方法会读从缓存读取数据,直到遇到第一个delim
。如果缓存中没有delim
,则返回EOF,如果查询的长度超过了缓存大小,则返回 io.ErrBufferFull
错误。
func (b *Reader) ReadSlice(delim byte) (line []byte, err error)
例如delim
为','
,则下面会返回的内容为1234,
。
r := strings.NewReader("1234,567") rb := bufio.NewReaderSize(r, 20) fmt.Println(rb.ReadSlice(',')) // 结果:[49 50 51 52 44]
注意:
ReadSlice
返回的是原始缓存中的内容,如果针对缓存作并发操作,则返回的内容有可能被其他操作覆盖。因此在官方注释里面有写,建议使用ReadBytes
或ReadString
。但ReadBytes
和ReadString
涉及内存申请和拷贝,因此会影响性能。在追求高性能的场景下,建议外部使用sync.pool
来提供缓存。// Because the data returned from ReadSlice will be overwritten // by the next I/O operation, most clients should use // ReadBytes or ReadString instead.
ReadLine
ReadLine() (line []byte, isPrefix bool, err error)
ReadLine
底层用到了ReadSlice
,但在返回时会移除\n
或\r\n
。需要注意的是,如果切片中没有找到换行符,则不会返回EOF或io.ErrBufferFull
错误,相反,它会将isPrefix
置为true
ReadBytes
与ReadSlice
类似,但它会返回一个新的切片,因此便于并发使用。如果找不到delim
,ReadBytes
会返回io.EOF
func (b *Reader) ReadBytes(delim byte) ([]byte, error)
Scanner
scanner可以不断将数据读取到缓存(默认64*1024字节)。
rb := strings.NewReader("12345678901234567890") scanner := bufio.NewScanner(rb) for scanner.Scan() { fmt.Printf("Token (Scanner): %q\n", scanner.Text()) } // 结果:Token (Scanner): "12345678901234567890"
参考
how-to-read-and-write-with-golang-bufio
今天关于《深入解析golang bufio》的内容介绍就到此结束,如果有什么疑问或者建议,可以在golang学习网公众号下多多回复交流;文中若有不正之处,也希望回复留言以告知!
-
505 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
152 收藏
-
176 收藏
-
364 收藏
-
281 收藏
-
192 收藏
-
231 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 507次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 484次学习
-
- 危机的铅笔
- 这篇博文真及时,很详细,真优秀,已加入收藏夹了,关注博主了!希望博主能多写Golang相关的文章。
- 2023-02-17 22:12:21
-
- 合适的果汁
- 很好,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,帮助很大,总算是懂了,感谢博主分享技术贴!
- 2023-02-10 19:24:27
-
- 腼腆的楼房
- 这篇文章真是及时雨啊,太详细了,很好,码住,关注师傅了!希望师傅能多写Golang相关的文章。
- 2023-02-09 04:17:28
-
- 清脆的中心
- 这篇文章真是及时雨啊,作者加油!
- 2023-01-26 05:21:09
-
- 等待的棒棒糖
- 很详细,码起来,感谢楼主的这篇博文,我会继续支持!
- 2023-01-19 15:26:27
-
- 隐形的世界
- 这篇博文真及时,很详细,赞 👍👍,已加入收藏夹了,关注up主了!希望up主能多写Golang相关的文章。
- 2023-01-19 12:06:31
-
- 舒适的玫瑰
- 太给力了,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,看完之后很有帮助,总算是懂了,感谢up主分享技术文章!
- 2023-01-11 11:52:26
-
- 内向的斑马
- 太给力了,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,帮助很大,总算是懂了,感谢师傅分享博文!
- 2023-01-08 06:36:50