Go worker pool:别让后台任务无限制创建 goroutine
来源:Golang学习网专题原创
时间:2026-06-08 21:06:00 472浏览 收藏
消息消费、批量导入、图片处理和报表任务都容易写成“来一个任务开一个 goroutine”。短期看吞吐高,长期看任务高峰会让内存、连接池和 CPU 一起抖动。worker pool 用固定并发换稳定性。
队列必须有容量
无界队列只是把压力藏到内存里。任务队列要有长度上限,超过后选择阻塞、丢弃、返回繁忙或落盘。
worker 数量来自资源预算
如果每个任务都会访问数据库,worker 数不能超过数据库连接池预算。CPU 密集任务则要参考 CPU 核心和单任务耗时。
关闭时要排水
服务退出时要停止接收新任务,等待已有任务完成或超时取消。直接关闭进程会留下半写入状态。
生产场景
适用于消息消费、图片处理、报表生成、批量导入和异步通知。任务来源不稳定时,固定 worker 数可以把资源消耗锁在可预测范围。
关键指标
- 队列长度、入队失败和任务等待时间
- worker 忙闲比例与单任务处理耗时
- 任务失败、重试和死信数量
常见误区
- 用无界队列隐藏压力直到内存被打满
- worker 数量超过数据库或外部 API 容量
- 退出时直接杀进程,导致任务半处理
落地建议
建议给队列设置明确容量和满队列策略。重要任务可落盘或进入消息队列,普通任务可以返回繁忙。停机时先停止接收新任务,再用有限时间等待 worker 排水。
代码示例
jobs := make(chan Job, 100) for i := 0; i
上线检查
- 队列长度可观测。
- worker 数和下游资源预算一致。
- 服务停止时能关闭队列并等待 worker 退出。
声明:本文转载于:Golang学习网专题原创 如有侵犯,请联系study_golang@163.com删除
相关阅读
更多>
-
109 收藏
-
112 收藏
-
114 收藏
-
115 收藏
-
119 收藏
最新阅读
更多>
-
194 收藏
-
471 收藏
-
392 收藏
-
418 收藏
-
Golang · Go教程 | 1星期前 | goroutine · Context · 超时控制 · Go教程 · 后端开发 · Go Goroutine context 超时控制 WithTimeout Done QueryContext166 收藏
-
Golang · Go教程 | 1星期前 | WaitGroup · channel · 并发编程 · 优雅关闭 · Go教程 · WaitGroup Channel关闭 Go channel 并发收尾 done信号165 收藏
-
332 收藏
-
115 收藏
-
Golang · Go教程 | 2星期前 | errgroup · go · Context · 并发编程 · SetLimit · Go 并发任务 errgroup SetLimit context取消301 收藏
-
Golang · Go教程 | 2星期前 | map · 并发安全 · RWMutex · sync.Map · Go教程 · 并发安全 RWMutex sync.Map Go map并发读写 go test race272 收藏
-
114 收藏
-
458 收藏
课程推荐
更多>
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 485次学习