Golang 限流器的使用和实现示例
来源:脚本之家
时间:2023-01-07 11:57:59 446浏览 收藏
亲爱的编程学习爱好者,如果你点开了这篇文章,说明你对《Golang 限流器的使用和实现示例》很感兴趣。本篇文章就来给大家详细解析一下,主要介绍一下限流器,希望所有认真读完的童鞋们,都有实质性的提高。
限流器是服务中非常重要的一个组件,在网关设计、微服务、以及普通的后台应用中都比较常见。它可以限制访问服务的频次和速率,防止服务过载,被刷爆。
限流器的算法比较多,常见的比如令牌桶算法、漏斗算法、信号量等。本文主要介绍基于漏斗算法的一个限流器的实现。文本也提供了其他几种开源的实现方法。
基于令牌桶的限流器实现
在golang 的官方扩展包 time 中(github/go/time),提供了一个基于令牌桶算法的限流器的实现。
原理
令牌桶限流器,有两个概念:
- 令牌:每次都需要拿到令牌后,才可以访问
- 桶:有一定大小的桶,桶中最多可以放一定数量的令牌
- 放入频率:按照一定的频率向通里面放入令牌,但是令牌数量不能超过桶的容量
因此,一个令牌桶的限流器,可以限制一个时间间隔内,最多可以承载桶容量的访问频次。下面我们看看官方的实现。
实现
限流器的定义
下面是对一个限流器的定义:
type Limiter struct { limit Limit // 放入桶的频率 (Limit 为 float64类型) burst int // 桶的大小 mu sync.Mutex tokens float64 // 当前桶内剩余令牌个数 last time.Time // 最近取走token的时间 lastEvent time.Time // 最近限流事件的时间 }
其中,核心参数是 limit,burst。 burst 代表了桶的大小,从实际意义上来讲,可以理解为服务可以承载的并发量大小;limit 代表了 放入桶的频率,可以理解为正常情况下,1s内我们的服务可以处理的请求个数。
在令牌发放后,会被保留在Reservation 对象中,定义如下:
type Reservation struct { ok bool // 是否满足条件分配到了tokens lim *Limiter // 发送令牌的限流器 tokens int // tokens 的数量 timeToAct time.Time // 满足令牌发放的时间 limit Limit // 令牌发放速度 }
Reservation 对象,描述了一个在达到 timeToAct 时间后,可以获取到的令牌的数量tokens。 (因为有些需求会做预留的功能,所以timeToAct 并不一定就是当前的时间。
限流器如何限流
官方提供的限流器有阻塞等待式的,也有直接判断方式的,还有提供了自己维护预留式的,但核心的实现都是下面的reserveN 方法。
// 在 now 时间需要拿到n个令牌,最多可以等待的时间为maxFutureResrve // 结果将返回一个预留令牌的对象 func (lim *Limiter) reserveN(now time.Time, n int, maxFutureReserve time.Duration) Reservation { lim.mu.Lock() // 首先判断是否放入频次是否为无穷大,如果为无穷大,说明暂时不限流 if lim.limit == Inf { // ... } // 拿到截至now 时间时,可以获取的令牌tokens数量,上一次拿走令牌的时间last now, last, tokens := lim.advance(now) // 然后更新 tokens 的数量,把需要拿走的去掉 tokens -= float64(n) // 如果tokens 为负数,说明需要等待,计算等待的时间 var waitDuration time.Duration if tokens从实现上看,limiter 并不是每隔一段时间更新当前桶中令牌的数量,而是记录了上次访问时间和当前桶中令牌的数量。当再次访问时,通过上次访问时间计算出当前桶中的令牌的数量,决定是否可以发放令牌。
使用
下面我们通过一个简单的例子,学习上面介绍的限流器的使用。
limiter := rate.NewLimiter(rate.Every(100*time.Millisecond), 10) http.HandleFunc("/", func(w http.ResponseWriter, r *http.Request) { if limiter.Allow() {// do something log.Println("say hello") } }) _ = http.ListenAndServe(":13100", nil)上面,每100 ms 放入令牌桶中1个令牌,所以当批量访问该接口时,可以看到如下结果:
2020/06/26 14:34:16 say hello 有18 条记录
2020/06/26 14:34:17 say hello 有10 条记录
2020/06/26 14:34:18 say hello 有10 条记录
...一开始漏斗满着,可以缓解部分突发的流量。当漏斗未空时,访问的频次和令牌放入的频次变为一致。
其他限流器的实现
uber 开源库中基于漏斗算法实现了一个限流器。漏斗算法可以限制流量的请求速度,并起到削峰填谷的作用。 https://github.com/uber-go/ratelimit
滴滴开源实现了一个对http请求的限流器中间件。可以基于以下模式限流。
- 基于IP,路径,方法,header,授权用户等限流
- 通过自定义方法限流
- 还支持基于 http header 设置限流数据
- 实现方式是基于 github/go/time 实现的,不同类别的数据都存储在一个带超时时间的数据池中。
- 代码地址 https://github.com/didip/tollbooth
golang 网络包中还有基于信号量实现的限流器。 https://github.com/golang/net/blob/master/netutil/listen.go 也值得我们去学习下。
总结
令牌桶实现的限流器算法,相较于漏斗算法可以在一定程度上允许突发的流量进入我们的应用中,所以在web应用中最为广泛。
在实际使用时,一般不会做全局的限流,而是针对某些特征去做精细化的限流。例如:通过header、x-forward-for 等限制爬虫的访问,通过对 ip,session 等用户信息限制单个用户的访问等。
终于介绍完啦!小伙伴们,这篇关于《Golang 限流器的使用和实现示例》的介绍应该让你收获多多了吧!欢迎大家收藏或分享给更多需要学习的朋友吧~golang学习网公众号也会发布Golang相关知识,快来关注吧!
-
317 收藏
-
439 收藏
-
121 收藏
-
497 收藏
-
165 收藏
-
473 收藏
-
377 收藏
-
384 收藏
-
246 收藏
-
110 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 507次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 484次学习
-
- 虚心的篮球
- 很有用,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,帮助很大,总算是懂了,感谢作者大大分享博文!
- 2023-04-01 19:20:00
-
- 野性的过客
- 好细啊,已收藏,感谢作者的这篇文章,我会继续支持!
- 2023-02-15 22:24:37
-
- 冷静的画板
- 这篇文章真是及时雨啊,很详细,受益颇多,码起来,关注博主了!希望博主能多写Golang相关的文章。
- 2023-02-09 18:26:33
-
- 舒服的裙子
- 受益颇多,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,看完之后很有帮助,总算是懂了,感谢大佬分享技术文章!
- 2023-02-06 03:05:06
-
- 端庄的眼神
- 太详细了,码住,感谢作者大大的这篇文章内容,我会继续支持!
- 2023-01-19 16:39:42
-
- 自信的小白菜
- 这篇文章内容真是及时雨啊,太全面了,很棒,已加入收藏夹了,关注up主了!希望up主能多写Golang相关的文章。
- 2023-01-09 00:50:05
-
- 喜悦的煎饼
- 这篇博文真及时,up主加油!
- 2023-01-08 03:25:36