golang 限制同一时间的并发量操作
来源:脚本之家
时间:2022-12-28 11:03:40 485浏览 收藏
IT行业相对于一般传统行业,发展更新速度更快,一旦停止了学习,很快就会被行业所淘汰。所以我们需要踏踏实实的不断学习,精进自己的技术,尤其是初学者。今天golang学习网给大家整理了《golang 限制同一时间的并发量操作》,聊聊并发量,我们一起来看看吧!
go的并发量是很厉害的,goroutine创建的代价极小,其中一个重要的原因是因为go采用了分段栈技术,每一个goroutine只占极小的空间。与此同时,goroutine是语言层面的,减少了内核态到用户态的切换开销,并且goroutine摒弃了一些golang用不到的一些os thread的系统调用,创建代价小。
我们可以一瞬间创建很多个goroutine,这是相当容易的。
乍一看,这与题目完全不符,前面说了那么多,难道不是鼓励我们多创建goroutine吗?不不不,goroutine确实很好用,但是如果不加以限制,很有可能出现其他的不可预料的错误。
比如在web领域中, 一个连接,在linux/unix下就相当于是打开了一个文件,占用一个文件描述符。但是系统会规定文件描述符的上限,我们可以使用ulimit -n来进行查看,如果我们遵循量大就好的话,那么一拥而上的请求连接会瞬间报错。
2018/06/30 10:09:54 dial tcp :8080: socket: too many open files
上面这条报错信息源于我写的一个循环请求的工具
package main
import (
"sync"
"net"
"strconv"
"fmt"
"log"
)
const (
MAX_CONCURRENCY = 10000
)
var waitGroup sync.WaitGroup
func main(){
concurrency()
waitGroup.Wait()
}
//进行网络io
func request(currentCount int){
fmt.Println("request" + strconv.Itoa(currentCount) + "\r")
conn, err := net.Dial("tcp",":8080")
if err != nil { log.Fatal(err) }
defer conn.Close()
defer waitGroup.Done()
}
//并发请求
func concurrency(){
for i := 0;i
用go建立一个服务端很简单,我这里简单的贴下server的代码
package main
import (
"io"
"os"
"fmt"
"net"
)
func checkErr(err error){
if err != nil { fmt.Fprintln(os.Stderr, err) }
}
func main() {
listener, err := net.Listen("tcp",":8080")
checkErr(err)
for {
conn, err := listener.Accept()
checkErr(err)
go func(conn net.Conn){
_, err := io.WriteString(conn, "welcome!")
checkErr(err)
defer conn.Close()
}(conn)
}
}
现在回到主题,我们可以看到一拥而上其实也有坏处,想要解决这一问题,我们可以限制同一时间的并发数量,可以利用channel来达到这一点,这有点类似于信号量(Semaphore)
创建一个带缓存的channel,其中CHANNEL_CACHE为同一时间的最大并发量
想简单的说一下为什么这里chan的类型要用一个空的struct,这是因为在这个场景下(限制同一时间的并发量),通过channel传输的数据的类型并不重要,我们只需要通过做一个通知效果就行了(就像你通知你朋友起床,你只用闪个电话,而不用实际的接通,省去了电话费的开销),这里的空的struct实际上是不占任何空间的,因此这里选用空的struct
const (
CHANNEL_CACHE = 200
)
var tmpChannel = make(chan struct{}, CHANNEL_CACHE)
在与服务器建立连接的地方这样写(是不是很类似于信号量)
tmpChan
这样同一时间的并发量就由CHANNEL_CACHE限制下来
经过循环开启的goroutine在请求服务器之前会向channel发送消息,如果缓存满了,那么说明已经有CHANNEL_CACHE个goroutine在进行与服务器的连接,接着就会阻塞在这里,等待其中一个goroutine处理完之后,从channel中读出一个空的struct,这时阻塞的地方向channel发送一个空struct,就可以与服务器建立连接了
下面贴一下全部的代码
package main
import (
"sync"
"net"
"strconv"
"fmt"
"log"
)
const (
MAX_CONCURRENCY = 10000
CHANNEL_CACHE = 200
)
var tmpChan = make(chan struct{}, MAX_CONCURRENCY)
var waitGroup sync.WaitGroup
func main(){
concurrency()
waitGroup.Wait()
}
//进行网络io
func request(currentCount int){
fmt.Println("request" + strconv.Itoa(currentCount) + "\r")
tmpChan
这样就可以愉快的进行并发了!!!
补充:Golang限制N个并发同时运行
我就废话不多说了,大家还是直接看代码吧~
package main
import (
"fmt"
"sync"
"time"
)
var wg sync.WaitGroup
func main() {
var wg sync.WaitGroup
sem := make(chan struct{}, 2) // 最多允许2个并发同时执行
taskNum := 10
for i := 0; i
以上为个人经验,希望能给大家一个参考,也希望大家多多支持golang学习网。如有错误或未考虑完全的地方,望不吝赐教。
好了,本文到此结束,带大家了解了《golang 限制同一时间的并发量操作》,希望本文对你有所帮助!关注golang学习网公众号,给大家分享更多Golang知识!
-
860 收藏
-
843 收藏
-
826 收藏
-
809 收藏
-
792 收藏
-
Golang · Go教程 | 3天前 | 并发 · 闭包 · for range · 迁移 · Go教程 · Go 1.22 · Goroutine 闭包 循环变量 Go教程 Go 1.22 for range113 收藏
-
331 收藏
-
Golang · Go教程 | 3天前 | 单元测试 · 错误处理 · Go教程 · errors.Join · errors.Is · errors.Is Go错误处理 Go教程 errors.Join 多错误返回 批量校验352 收藏
-
Golang · Go教程 | 3天前 | Context · 超时控制 · Go教程 · http.Client · Transport · Go context 请求超时 Transport http.Client Client.Timeout ResponseHeaderTimeout218 收藏
-
Golang · Go教程 | 3天前 | 文件下载 · Go教程 · 审计日志 · 接口安全 · 路径穿越 · Go 文件下载 审计日志 HTTP接口 filepath.Clean 安全下载 路径穿越362 收藏
-
273 收藏
-
Golang · Go教程 | 3天前 | CI/CD · gitHub actions · Go教程 · 自托管 Runner · 持续集成 · Go 持续集成 CI Go test GitHub Actions self-hosted runner 自托管 runner340 收藏
-
124 收藏
-
Golang · Go教程 | 4天前 | HTTP · 文件下载 · Go教程 · Range请求 · ServeContent · 断点续传 Content-Range Go教程 HTTP Range ServeContent 206 Partial Content 视频拖动250 收藏
-
Golang · Go教程 | 4天前 | csv · Go教程 · 后端架构 · 流式响应 · 大文件导出 · 大文件下载 FLUSH CSV导出 Go教程 流式写出 csv.Writer rows.Next251 收藏
-
Golang · Go教程 | 4天前 | HTTP服务 · Go教程 · 后端开发 · 超时配置 · 服务稳定性 · net/http WriteTimeout HTTP超时 Go教程 ReadHeaderTimeout IdleTimeout140 收藏
-
Golang · Go教程 | 4天前 | 错误处理 · Context · 并发控制 · Go教程 · 并发控制 Go教程 context取消 context.WithCancelCause context.Cause342 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 485次学习
-
- 整齐的微笑
- 这篇博文太及时了,细节满满,很棒,收藏了,关注师傅了!希望师傅能多写Golang相关的文章。
- 2023-02-11 03:39:06
-
- 能干的草丛
- 这篇技术文章真及时,博主加油!
- 2023-02-01 15:23:52
-
- 个性的电脑
- 太给力了,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,看完之后很有帮助,总算是懂了,感谢up主分享博文!
- 2023-01-31 03:48:51
-
- 含糊的日记本
- 这篇技术文章太及时了,很详细,太给力了,已加入收藏夹了,关注作者了!希望作者能多写Golang相关的文章。
- 2023-01-19 10:22:01
-
- 善良的糖豆
- 太详细了,已加入收藏夹了,感谢楼主的这篇技术文章,我会继续支持!
- 2023-01-14 14:30:28