Goroutines 使用通道同步的问题
来源:stackoverflow
时间:2024-04-16 16:36:34 212浏览 收藏
最近发现不少小伙伴都对Golang很感兴趣,所以今天继续给大家介绍Golang相关的知识,本文《Goroutines 使用通道同步的问题》主要内容涉及到等等知识点,希望能帮到你!当然如果阅读本文时存在不同想法,可以在评论中表达,但是请勿使用过激的措辞~
问题内容
我正在使用下面的代码来同步 goroutine。最近在调查一个错误时,我发现下面的代码并不总是有效。大约五分之一的失败。频道 quit 在我的 out 频道之前获取消息。我能够在本地(不是在 go-演示中)和 k8s 环境中一致地重现此问题。作为解决方法,我现在使用 sync.map 进行同步。
有办法修复下面的代码吗?
package main
import (
"fmt"
"io/ioutil"
"log"
"os"
"path"
"sync"
"sync/atomic"
"time"
)
func main() {
//test setup
filePaths := []string{
path.Join(os.TempDir(), fmt.Sprint("f1-", time.Now().Nanosecond())),
path.Join(os.TempDir(), fmt.Sprint("f2-", time.Now().Nanosecond())),
path.Join(os.TempDir(), fmt.Sprint("f3-", time.Now().Nanosecond())),
path.Join(os.TempDir(), fmt.Sprint("f4-", time.Now().Nanosecond())),
path.Join(os.TempDir(), fmt.Sprint("f5-", time.Now().Nanosecond())),
path.Join(os.TempDir(), fmt.Sprint("f6-", time.Now().Nanosecond())),
}
for _, filePath := range filePaths {
f, err := os.OpenFile(filePath, os.O_APPEND|os.O_CREATE|os.O_WRONLY, 0600)
if err != nil {
log.Fatal(err)
}
_, err = f.WriteString("There are many variations of passages of Lorem Ipsum available, but the majority have suffered alteration in some form, by injected humour, or randomised words which don't look even slightly believable. If you are going to use a passage of Lorem Ipsum, you need to be sure there isn't anything embarrassing hidden in the middle of text. All the Lorem Ipsum generators on the Internet tend to repeat predefined chunks as necessary, making this the first true generator on the Internet. It uses a dictionary of over 200 Latin words, combined with a handful of model sentence structures, to generate Lorem Ipsum which looks reasonable. The generated Lorem Ipsum is therefore always free from repetition, injected humour, or non-characteristic words etc.")
if err != nil {
log.Fatal(err)
}
err = f.Close()
if err != nil {
log.Fatal(err)
}
}
for {
responses, err := getContents(filePaths)
if err != nil {
log.Fatal(err)
}
if len(responses) != len(filePaths) {
log.Fatalf("Responses Does not Match, need %d Got %d",len(filePaths), len(responses))
}
time.Sleep(1 * time.Second)
}
}
func getContents(fileNames []string) ([][]byte, error) {
wg := sync.WaitGroup{}
var responseBytes [][]byte
out := make(chan []byte, 10)
defer close(out)
quit := make(chan int)
var opsFileRead uint64
var opsChannelGot uint64
defer close(quit)
go func() {
for {
select {
case bts := <-out:
if len(bts) > 0 {
atomic.AddUint64(&opsChannelGot, 1)
responseBytes = append(responseBytes, bts)
}
break
case <-quit:
fmt.Printf("I quit, i read %d, i got %d\n", opsFileRead, opsChannelGot)
return
}
}
}()
for _, fileName := range fileNames {
wg.Add(1)
go func(fName string, out chan []byte, wg *sync.WaitGroup) {
defer wg.Done()
data, err := ioutil.ReadFile(fName)
if err != nil {
log.Fatal(err)
}
out <- data
atomic.AddUint64(&opsFileRead, 1)
}(fileName, out, &wg)
}
wg.Wait()
quit <- 1
return responseBytes, nil
}正确答案
当收到退出时,输出通道可以包含值。通过创建一个无缓冲的通道来修复:
out := make(chan []byte)
这可以确保在退出之前收到从工作人员发送的值:
- 无缓冲通道上的发送/接收发生在调用
wg.done()之前 - 对
wg.done()的所有调用都发生在wg.wait()返回之前 wg.wait()在将值发送到quit之前返回
因此,在将值发送到 quit 之前,先从 out 接收值。
另一种方法是关闭 out 通道,向结果收集器发出信号:工作人员已完成:
func getContents(fileNames []string) ([][]byte, error) {
wg := sync.WaitGroup{}
var responseBytes [][]byte
out := make(chan []byte)
var opsFileRead uint64
var opsChannelGot uint64
for _, fileName := range fileNames {
wg.Add(1)
go func(fName string, out chan []byte, wg *sync.WaitGroup) {
defer wg.Done()
data, err := ioutil.ReadFile(fName)
if err != nil {
log.Fatal(err)
}
out <- data
atomic.AddUint64(&opsFileRead, 1)
}(fileName, out, &wg)
}
// Close out after workers are done.
go func() {
wg.Wait()
close(out)
}()
// Loop over outputs until done.
for bts := range out {
if len(bts) > 0 {
atomic.AddUint64(&opsChannelGot, 1)
responseBytes = append(responseBytes, bts)
}
}
fmt.Printf("I quit, i read %d, i got %d\n", opsFileRead, opsChannelGot)
return responseBytes, nil
}文中关于的知识介绍,希望对你的学习有所帮助!若是受益匪浅,那就动动鼠标收藏这篇《Goroutines 使用通道同步的问题》文章吧,也可关注golang学习网公众号了解相关技术文章。
声明:本文转载于:stackoverflow 如有侵犯,请联系study_golang@163.com删除
相关阅读
更多>
-
502 收藏
-
502 收藏
-
501 收藏
-
501 收藏
-
501 收藏
最新阅读
更多>
-
Golang · Go问答 | 15小时前 | 并发 · channel · select · 性能排查 · Go问答 · select Go channel context default CPU飙高 忙等循环 ticker438 收藏
-
Golang · Go问答 | 15小时前 | pprof · trace · 性能排查 · Go问答 · 服务安全 · Go pprof 生产环境 trace 安全入口 net/http/pprof 性能排障349 收藏
-
Golang · Go问答 | 16小时前 | channel · 并发编程 · Go问答 · 背压 · 容量规划 · Goroutine channel 缓冲区 背压 Go问答 buffered channel 并发容量377 收藏
-
Golang · Go问答 | 17小时前 | interface · 单元测试 · 架构设计 · repository · Go问答 · 单元测试 架构设计 interface 接口设计 Go问答 调用方定义 Repository212 收藏
-
Golang · Go问答 | 17小时前 | JSON · time.Time · 接口设计 · Go问答 · encoding/json · encoding/json API响应 JSON序列化 time.Time omitempty Go问答 omitzero315 收藏
-
Golang · Go问答 | 17小时前 | HTTP · Cookie · 浏览器 · cors · Go问答 · SameSite · cookie cors Secure SameSite Go问答 Set-Cookie 跨站请求 credentials246 收藏
-
Golang · Go问答 | 17小时前 | 中间件 · Context · Go问答 · 架构模式 · 代码边界 · 中间件 context Context.Value Go问答 WithValue 请求作用域 业务参数269 收藏
-
Golang · Go问答 | 18小时前 | JSON · 后端开发 · Go问答 · encoding/json · 接口解析 · JSON解析 encoding/json DisallowUnknownFields Go问答 RawMessage json.Decoder UseNumber151 收藏
-
Golang · Go问答 | 1天前 | HTTP · net/http · Go问答 · 流式响应 · ResponseController · net/http FLUSH 流式响应 Go问答 ResponseController FullDuplex 写超时161 收藏
-
Golang · Go问答 | 1天前 | HTTP · sse · Go问答 · 用户体验 · 流式响应 · Go EventSource SSE Go问答 Server-Sent Events 长任务进度 http.Flusher293 收藏
-
Golang · Go问答 | 1天前 | Timer · 性能优化 · time.After · Go问答 · Go 内存优化 Timer time.After Go问答 time.NewTimer Go1.23384 收藏
-
Golang · Go问答 | 1天前 | go · Context · 并发编程 · 接口超时 · 超时控制 goroutine泄漏 WithTimeout Go context Go问答 CancelFunc477 收藏
课程推荐
更多>
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 485次学习