Golang并发请求接口数据技巧
时间:2025-12-29 11:57:42 400浏览 收藏
本篇文章给大家分享《Golang并发请求多个接口数据方法》,覆盖了Golang的常见基础知识,其实一个语言的全部知识点一篇文章是不可能说完的,但希望通过这些问题,让读者对自己的掌握程度有一定的认识(B 数),从而弥补自己的不足,更好的掌握它。
Go 并发 HTTP 请求需控制并发数(20–50)、使用 context 统一超时、通过 channel 安全收集结果;避免盲目启大量 goroutine,推荐 semaphore 或带缓冲 channel 限流,并用结构体封装结果防止竞态。

用 Go 实现并发 HTTP 请求,核心是结合 goroutine 和 channel 控制并发流程,同时避免资源耗尽和超时堆积。关键不是“越多越快”,而是合理控制并发数、统一处理错误与超时、安全收集结果。
控制并发数量,防止压垮服务或自身
直接为每个请求起一个 goroutine 容易失控(比如 1000 个 URL 启 1000 个 goroutine),推荐使用带缓冲的 channel 或 semaphore 模式限制并发数:
- 用
make(chan struct{}, N)作为信号量:每次发请求前先写入一个占位符,请求结束再读出,自然限流 - 或用第三方库如
golang.org/x/sync/semaphore,语义更清晰 - 常见合理值:20–50(取决于目标接口承载力和本地网络/文件描述符限制)
每个请求必须带上下文(context)超时
单个请求卡住会拖慢整个批次。务必用 context.WithTimeout 或 context.WithDeadline 包裹请求:
- 不要只靠
http.Client.Timeout,它不覆盖 DNS 解析、TLS 握手等阶段 - 推荐写法:
ctx, cancel := context.WithTimeout(context.Background(), 5*time.Second),并在 defer 中调用cancel() - 把
ctx传给http.NewRequestWithContext,再交给client.Do
用 channel 安全收集结果,区分成功与失败
避免多个 goroutine 写同一 slice 引发竞态。建议定义结构体封装结果,并用 channel 统一接收:
type Result struct {
URL string
Data []byte
Err error
Status int
}- 启动 N 个 goroutine,每个做完后把
Result发到同一个chan Result - 主 goroutine 用
for i := 0; i 循环接收,确保收齐 - 可额外加一个
donechannel 或sync.WaitGroup辅助判断完成
完整轻量示例(无依赖,开箱即用)
以下代码并发请求 3 个 URL,最大并发 2,每请求 3 秒超时:
func fetchURL(ctx context.Context, url string, sem chan struct{}) Result {
sem <- struct{}{} // 获取令牌
defer func() { <-sem }() // 释放令牌
<pre class="brush:php;toolbar:false"><code>req, _ := http.NewRequestWithContext(ctx, "GET", url, nil)
client := &http.Client{Timeout: 3 * time.Second}
resp, err := client.Do(req)
if err != nil {
return Result{URL: url, Err: err}
}
defer resp.Body.Close()
data, _ := io.ReadAll(resp.Body)
return Result{URL: url, Data: data, Status: resp.StatusCode}</code>}
func main() { urls := []string{"https://httpbin.org/delay/1", "https://httpbin.org/delay/2", "https://httpbin.org/status/404"} sem := make(chan struct{}, 2) ch := make(chan Result, len(urls))
for _, u := range urls {
go func(url string) {
ctx, cancel := context.WithTimeout(context.Background(), 3*time.Second)
defer cancel()
ch <- fetchURL(ctx, url, sem)
}(u)
}
results := make([]Result, 0, len(urls))
for i := 0; i < len(urls); i++ {
results = append(results, <-ch)
}
for _, r := range results {
if r.Err != nil {
fmt.Printf("❌ %s → %v\n", r.URL, r.Err)
} else {
fmt.Printf("✅ %s → %d bytes, status %d\n", r.URL, len(r.Data), r.Status)
}
}}
不复杂但容易忽略细节:限流、上下文、结果收集三者缺一不可。实际项目中可进一步封装成可复用函数,支持自定义 Header、重试、熔断等。
今天带大家了解了的相关知识,希望对你有所帮助;关于Golang的技术知识我们会一点点深入介绍,欢迎大家关注golang学习网公众号,一起学习编程~
-
505 收藏
-
503 收藏
-
502 收藏
-
502 收藏
-
502 收藏
-
234 收藏
-
264 收藏
-
144 收藏
-
216 收藏
-
156 收藏
-
300 收藏
-
224 收藏
-
265 收藏
-
354 收藏
-
412 收藏
-
482 收藏
-
378 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 485次学习