带有 TB RAM 的 go 1.5 gc 有多快?
来源:Golang技术栈
时间:2023-04-19 12:22:31 159浏览 收藏
有志者,事竟成!如果你在学习Golang,那么本文《带有 TB RAM 的 go 1.5 gc 有多快?》,就很适合你!文章讲解的知识点主要包括golang,若是你对本文感兴趣,或者是想搞懂其中某个知识点,就请你继续往下看吧~
问题内容
Java 不能使用 TB 的 RAM,因为 GC 暂停时间太长(几分钟)。随着最近对 Go GC 的更新,我想知道它的 GC 暂停是否足够短,可以用于大量 RAM,例如几 TB。
有这方面的基准吗?我们现在可以使用具有这么多 RAM 的垃圾收集语言吗?
正确答案
tl;博士 :
- 你现在不能在单个 Go 进程中使用 TB 的 RAM。Linux 上的最大容量为 512 GB,而我所见测试的最大容量为 240 GB。
- 对于当前的后台 GC,GC 工作量 往往比 GC 暂停 更重要。
- 您可以将 GC 工作负载理解为 指针 * 分配率 / 备用 RAM 。在使用大量 RAM 的应用程序中,只有那些指针少或分配少的应用程序的 GC 工作量才会低。
我同意 inf 的评论,即大堆值得向其他人询问(或测试)。JimB 指出,Go 堆目前的硬限制为 512 GB,而 ~~18~~ 240 GB 是我见过的最大的测试。
我们从设计文档和GopherCon 2015 幻灯片中了解到一些关于大堆的信息:
- 1.5 收集器的目的不是减少 GC 工作 ,只是通过在后台工作来减少 暂停。
- 当 GC 扫描堆栈和全局指针时,您的代码会暂停。
- 1.5 GC 在大约 18GB 堆的 GC 基准测试中会出现短暂的停顿,如GopherCon 谈话中该图底部最右侧的黄点所示:
运行几个最初有大约 300ms 暂停的生产应用程序的人报告下降到~4ms和~20ms。另一个应用程序报告他们的 95th percentile GC 时间从[279ms 到 ~10ms](https://medium.com/@robin.verlangen/billions-of-request-per-day-meet- go-1-5-362bfefa0911)。
Go 1.6添加了润色并将一些剩余的工作推到了后台。结果,堆超过 200GB 的测试仍然看到最大暂停时间为 20 毫秒,如2016 年初[Go 演讲中](http://talks.golang.org/2016/state-of- go.slide)[的一张幻灯片](http://talks.golang.org/2016/state-of- go.slide#38)所示:
相同的应用程序在 1.5 下有 20 毫秒的暂停时间,在 1.6 下有 3-4 毫秒的暂停,大约 8GB 堆和 150M 分配/分钟。
使用 Go 作为聊天服务的 Twitch 报告说,[到 Go 1.7 时,暂停时间已减少到 1 毫秒,其中有很多正在运行的 goroutine](https://blog.twitch.tv/gos-march-to-low-latency- gc-a6fa96f06eb7#.9lsrreb5u)。
1.8[使堆栈扫描脱离了 stop-the-world 阶段](https://groups.google.com/d/msg/golang- dev/Ab1sFeoZg_8/_DaL0E8fAwAJ),使大多数停顿时间远低于 1 毫秒,即使在大堆上也是如此。早期的数字看起来不错。有时应用程序仍然具有使 goroutine 难以暂停的代码模式,从而有效地延长了所有其他线程的暂停时间,但通常可以公平地说 GC 的 后台工作 现在通常比 GC 暂停 更重要。
关于垃圾收集的一些一般性观察,并非特定于 Go:
- 收集的 频率 取决于您愿意为该进程提供的 RAM 用完的速度。
- 每个集合所做的 工作量 部分取决于正在使用的指针数量。(包括切片内的指针、接口值、字符串等)
换句话说,如果应用程序只有几个指针(例如,它处理相对较少的大缓冲区),访问大量内存的应用程序可能仍然没有 GC
问题[]byte
,并且如果分配率低(例如,因为您应用了sync.Pool
在您最快速地咀嚼 RAM 的任何地方重用内存)。
因此,如果您正在查看涉及数百 GB 堆的东西,这对 GC 不友好,我建议您考虑任何
- 用 C 或其他语言编写
- 将庞大的数据移出对象图。例如,您可以在嵌入式数据库中管理数据,例如
bolt
,将其放在外部数据库服务中,或者groupcache
如果您想要更多的缓存而不是数据库,则可以使用类似或 memcache 之类的东西 - 运行一组较小堆的进程而不是一个大进程
- 只需仔细进行原型设计、测试和优化以避免内存问题。
今天关于《带有 TB RAM 的 go 1.5 gc 有多快?》的内容介绍就到此结束,如果有什么疑问或者建议,可以在golang学习网公众号下多多回复交流;文中若有不正之处,也希望回复留言以告知!
-
439 收藏
-
262 收藏
-
193 收藏
-
188 收藏
-
500 收藏
-
139 收藏
-
204 收藏
-
325 收藏
-
477 收藏
-
486 收藏
-
439 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 507次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 484次学习