go语言限制协程并发数的方案详情
来源:脚本之家
时间:2023-01-08 10:47:17 135浏览 收藏
在Golang实战开发的过程中,我们经常会遇到一些这样那样的问题,然后要卡好半天,等问题解决了才发现原来一些细节知识点还是没有掌握好。今天golang学习网就整理分享《go语言限制协程并发数的方案详情》,聊聊协程、go限制、并发数,希望可以帮助到正在努力赚钱的你。
一、使用带缓冲的通道限制并发数
1.1方案详情
先上代码如下, 逻辑很简单.
package golimit type GoLimit struct { ch chan int } func NewGoLimit(max int) *GoLimit { return &GoLimit{ch: make(chan int, max)} func (g *GoLimit) Add() { g.ch按允许最大并发数创建一个带缓冲的通道, 创建协程之前调用Add()往通道里写一个数据, 协程完成是调用Done()方法读取一个数据. 若无法往通道里写数据时, 表示通道已经写满, 也就是目前的协程并发数为允许的最大数量. Add()方法将被阻塞, 也就无法创建新的协程. 直到有协程运行完成, 调用Done()方法读取了通道了一个数据.
以下是使用示例
package main import ( "golimit" "log" "time" ) func main() { log.Println("开始测试...") g := golimit.NewGoLimit(2) //max_num(最大允许并发数)设置为2 for i := 0; i1.2评估总结
优点:此方案的实现逻辑简单明了,易理解、易维护。若能满足需求,在一般的场景下,此方案为首选。
隐忧:使用通道的缓冲区的大小来表示最大可并发数,在允许并发数较大,如几千几万甚至更大的情况下,通道的性能和内存的负载是否会有问题,我不太清楚,若哪位朋友知道请告知一下。
不足:运行中难以调整最大可并发数。而在某些场景下是有这种需求的,如A服务依赖的B服务有扩容或缩减,但A服务不能停止,需要调整请求B服务接口的最大可并发数。二、使用锁实现协程并发数量限制2.1方案详情
同样先上代码(注:此代码我已经在github上开源https://github.com/zh-five/golimit)
// 协程并发数限制库 package golimit import ( "sync" ) type GoLimit struct { max uint //并发最大数量 count uint //当前已有并发数 isAddLock bool //是否已锁定增加 zeroChan chan interface{} //为0时广播 addLock sync.Mutex //(增加并发数的)锁 dataLock sync.Mutex //(修改数据的)锁 } func NewGoLimit(max uint) *GoLimit { return &GoLimit{max: max, count: 0, isAddLock: false, zeroChan: nil} } //并发计数加1.若 计数>=max_num, 则阻塞,直到 计数= g.max { g.isAddLock = true g.addLock.Lock() } g.dataLock.Unlock() } //若当前并发计数为0, 则快速返回; 否则阻塞等待,直到并发计数为0 func (g *GoLimit) WaitZero() { g.dataLock.Lock() //无需等待 if g.count == 0 { g.dataLock.Unlock() return } //无广播通道, 创建一个 if g.zeroChan == nil { g.zeroChan = make(chan interface{}) } //复制通道后解锁, 避免从nil读数据 c := g.zeroChan g.dataLock.Unlock() 总共使用了两把锁,一把是数据锁(dataLock),用来锁定数据,保证数据修改安全,加锁解锁是在修改数据前后进行的;另一把是增加能否增加协程的锁(addLock),增加协程时必须先加锁,加锁成功后修改并发数,若并发数小于最大可并发数,则解锁,否则不解锁,促使后续增加协程的加锁操作阻塞,从而限制协程的并发数。使用示例如下:
package main import ( "github.com/zh-five/golimit" "log" "time" ) func main() { log.Println("开始测试...") g := golimit.NewGoLimit(2) //max_num(最大允许并发数)设置为2 for i := 0; i =max_num, 则阻塞,直到 计数方案2的GoLimit除了增加了SetMax()方法用于修改最大可并发数。出于好玩和偷懒增加了一个WaitZero()方法(其实外部使用sync.WaitGroup也可以快速实现此功能),用于阻塞等待所有并发协程都执行完成。大约可以用于如下场景:有一大批url需要有限制的并发采集数据,主程序里只需要简单的调用一下WaitZero()方法,就可以阻塞等等所有采集的协程完成。
2.2评估总结
- 优点: 从实现逻辑上说,可以确定性能和消耗不会随着最大可并发数增加而线性增加。另外还有很多可扩展的想象。
- 缺点:实现逻辑比较复杂
其它
其实我很想对比测试一下两种方案的性能,特别是最大可并发比较大时。但我一直没有找到一种好的测试方法,若哪个朋友有方法或思路,欢迎交流。
以上就是本文的全部内容了,是否有顺利帮助你解决问题?若是能给你带来学习上的帮助,请大家多多支持golang学习网!更多关于Golang的相关知识,也可关注golang学习网公众号。
-
312 收藏
-
231 收藏
-
129 收藏
-
443 收藏
-
106 收藏
-
493 收藏
-
450 收藏
-
330 收藏
-
193 收藏
-
271 收藏
-
414 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 507次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 484次学习
-
- 糟糕的黑裤
- 这篇文章真及时,太细致了,赞 👍👍,收藏了,关注作者大大了!希望作者大大能多写Golang相关的文章。
- 2023-02-20 02:47:23
-
- 迷人的大叔
- 这篇技术贴真是及时雨啊,好细啊,很棒,已收藏,关注up主了!希望up主能多写Golang相关的文章。
- 2023-02-16 05:32:43
-
- 妩媚的砖头
- 很棒,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,看完之后很有帮助,总算是懂了,感谢老哥分享技术贴!
- 2023-02-06 00:19:11
-
- 清秀的香烟
- 受益颇多,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,帮助很大,总算是懂了,感谢作者大大分享文章!
- 2023-02-02 13:19:20
-
- 粗心的鼠标
- 很详细,已收藏,感谢up主的这篇文章,我会继续支持!
- 2023-01-27 14:47:04
-
- 舒适的火
- 细节满满,码起来,感谢作者大大的这篇文章内容,我会继续支持!
- 2023-01-22 13:39:31