爬虫中的Goroutine 如何并行抓取
来源:SegmentFault
时间:2023-01-08 11:28:01 375浏览 收藏
本篇文章给大家分享《爬虫中的Goroutine 如何并行抓取》,覆盖了Golang的常见基础知识,其实一个语言的全部知识点一篇文章是不可能说完的,但希望通过这些问题,让读者对自己的掌握程度有一定的认识(B 数),从而弥补自己的不足,更好的掌握它。
问题内容
在写一道爬虫的题目,题目要求是
要求支持多routine并行抓取(注意:这里并不是指简单设置GOMAXPROCS>1)
怎么样才是并行抓取?我现在只知道设置runtime.GOMAXPROCS=N
设置GOMAXPROCS是并行抓取吗,为什么?
不是很明白出题人的意思...
正确答案
设置GOMAXPROCS是并行抓取吗,为什么?
不是的, runtime.GOMAXPROCS设置的是 Golang 可利用的最大的操作系统的线程数. 即:
The GOMAXPROCS variable limits the number of operating system threads that can execute user-level Go code simultaneously.
我想你可能需要使用 goroutine, 即协程来实现并发的抓取, 下面是我写的一个简单的示例:
func main() { max_concurrent_count := 20 wg := sync.WaitGroup{} wg.Add(max_concurrent_count) for i := 0; i
在上面的例子中, 我使用了
go func() { ... }
来启动了10个协程, 每个协程都是单独运行的, 它们互不干扰, 并发地完成 HTTP 的请求.
到这里,我们也就讲完了《爬虫中的Goroutine 如何并行抓取》的内容了。个人认为,基础知识的学习和巩固,是为了更好的将其运用到项目中,欢迎关注golang学习网公众号,带你了解更多关于golang的知识点!
声明:本文转载于:SegmentFault 如有侵犯,请联系study_golang@163.com删除
相关阅读
更多>
-
244 收藏
-
354 收藏
-
356 收藏
-
387 收藏
-
272 收藏
最新阅读
更多>
-
139 收藏
-
204 收藏
-
325 收藏
-
477 收藏
-
486 收藏
-
439 收藏
课程推荐
更多>
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 507次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 484次学习
评论列表
-
- 还单身的康乃馨
- 这篇技术贴出现的刚刚好,太全面了,受益颇多,已加入收藏夹了,关注博主了!希望博主能多写Golang相关的文章。
- 2023-03-29 16:53:50
-
- 柔弱的鸡
- 这篇博文真是及时雨啊,细节满满,感谢大佬分享,码起来,关注楼主了!希望楼主能多写Golang相关的文章。
- 2023-03-03 09:19:08
-
- 隐形的黄豆
- 这篇博文真是及时雨啊,太详细了,很棒,mark,关注博主了!希望博主能多写Golang相关的文章。
- 2023-02-06 06:23:17
-
- 刻苦的滑板
- 感谢大佬分享,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,看完之后很有帮助,总算是懂了,感谢up主分享文章!
- 2023-02-02 00:27:20
-
- 诚心的向日葵
- 这篇文章内容太及时了,师傅加油!
- 2023-01-30 07:01:17
-
- 开心的树叶
- 太给力了,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,帮助很大,总算是懂了,感谢楼主分享技术贴!
- 2023-01-30 02:55:21
-
- 务实的信封
- 这篇文章内容真是及时雨啊,好细啊,很有用,已收藏,关注老哥了!希望老哥能多写Golang相关的文章。
- 2023-01-29 16:21:30
-
- 顺心的星星
- 写的不错,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,看完之后很有帮助,总算是懂了,感谢师傅分享技术文章!
- 2023-01-22 11:34:53
-
- 潇洒的酒窝
- 很详细,收藏了,感谢博主的这篇博文,我会继续支持!
- 2023-01-19 12:17:18
-
- 高大的御姐
- 细节满满,收藏了,感谢作者的这篇技术文章,我会继续支持!
- 2023-01-11 15:10:14