技术分享 | MySQL 8.0.21 Disable Redo Log 性能测试
来源:SegmentFault
时间:2023-01-22 19:56:27 130浏览 收藏
本篇文章主要是结合我之前面试的各种经历和实战开发中遇到的问题解决经验整理的,希望这篇《技术分享 | MySQL 8.0.21 Disable Redo Log 性能测试》对你有很大帮助!欢迎收藏,分享给更多的需要的朋友学习~
作者:洪斌
爱可生南区负责人兼技术服务总监,MySQL ACE,擅长数据库架构规划、故障诊断、性能优化分析,实践经验丰富,帮助各行业客户解决 MySQL 技术问题,为金融、运营商、互联网等行业客户提供 MySQL 整体解决方案。
本文来源:转载自公众号-玩转MySQL
*爱可生开源社区出品,原创内容未经授权不得随意使用,转载请联系小编并注明来源。
记得 5 年前我们在某银行客户做大数据量 load data 测试时,为了能在要求的时间内完成数据加载,尽管优化了各种参数,但还是避免不了在日志的 IO 开销。
在商业数据库 DB2、Oracle 都有 nologging table 功能,对于有大量数据加载需求的系统,就可以不记录日志,减少 IO 的开销。
这对用惯了商业数据库的用户来说,首测尝试开源数据库,感觉各种不适应。
最后只好拆分更多实例,增加并行度来提高 load data 效率,来满足时效性要求。
MySQL 一直在改善自身的扩展性,这对于企业级数据库是必须的,不能仅靠拆分打天下,一味的拆分使用体验太差,也会阻碍用户大规模使用,维护分布式架构的复杂性远比集中式复杂的多。
昨天发布的 MySQL 8.0.21 ,我们看到了 disable redo log 功能,这对 load data 场景太有吸引力了,我们简单测试下看实际效果如何。
简单对比测试
对比禁用与启用 redo log 两种场景下的执行效率,处理 100w 记录(1.8G)文件,sysbench 标准表结构。
从实际测试情况来看,禁用与启用 redo log 有 10%~30% 的执行时间差异。
禁用 redo log load data
mysql [localhost:8021] {msandbox} (test) > ALTER INSTANCE DISABLE INNODB REDO_LOG; Query OK, 0 rows affected (0.10 sec) mysql [localhost:8021] {msandbox} (test) > load data infile 'sbtest.txt' into table sbtest1; Query OK, 10000000 rows affected (2 min 39.66 sec) Records: 10000000 Deleted: 0 Skipped: 0 Warnings: 0 mysql [localhost:8021] {msandbox} (test) > truncate sbtest1; Query OK, 0 rows affected (0.36 sec) mysql [localhost:8021] {msandbox} (test) > set global sync_binlog=0;set global innodb_flush_log_at_trx_commit=0; Query OK, 0 rows affected (0.00 sec) Query OK, 0 rows affected (0.00 sec) mysql [localhost:8021] {msandbox} (test) > load data infile 'sbtest.txt' into table sbtest1; Query OK, 10000000 rows affected (2 min 30.61 sec) Records: 10000000 Deleted: 0 Skipped: 0 Warnings: 0
启用 redo log load data
mysql [localhost:8021] {msandbox} (test) > ALTER INSTANCE ENABLE INNODB REDO_LOG; Query OK, 0 rows affected (0.09 sec) mysql [localhost:8021] {msandbox} (test) > set global sync_binlog=1;set global innodb_flush_log_at_trx_commit=1; Query OK, 0 rows affected (0.00 sec) Query OK, 0 rows affected (0.00 sec) mysql [localhost:8021] {msandbox} (test) > load data infile 'sbtest.txt' into table sbtest1; Query OK, 10000000 rows affected (3 min 37.55 sec) Records: 10000000 Deleted: 0 Skipped: 0 Warnings: 0 mysql [localhost:8021] {msandbox} (test) > set global sync_binlog=0;set global innodb_flush_log_at_trx_commit=0; Query OK, 0 rows affected (0.00 sec) Query OK, 0 rows affected (0.00 sec) mysql [localhost:8021] {msandbox} (test) > truncate sbtest1; Query OK, 0 rows affected (0.34 sec) mysql [localhost:8021] {msandbox} (test) > load data infile 'sbtest.txt' into table sbtest1; Query OK, 10000000 rows affected (2 min 49.84 sec) Records: 10000000 Deleted: 0 Skipped: 0 Warnings: 0
禁用 redo log add index
mysql [localhost:8021] {msandbox} (test) > ALTER INSTANCE DISABLE INNODB REDO_LOG; Query OK, 0 rows affected (0.00 sec) mysql [localhost:8021] {msandbox} (test) > set global sync_binlog=1;set global innodb_flush_log_at_trx_commit=1; Query OK, 0 rows affected (0.00 sec) Query OK, 0 rows affected (0.00 sec) mysql [localhost:8021] {msandbox} (test) > alter table sbtest1 add index idx_c(c); Query OK, 0 rows affected (38.96 sec) Records: 0 Duplicates: 0 Warnings: 0 mysql [localhost:8021] {msandbox} (test) > set global sync_binlog=0;set global innodb_flush_log_at_trx_commit=0; Query OK, 0 rows affected (0.00 sec) Query OK, 0 rows affected (0.00 sec) mysql [localhost:8021] {msandbox} (test) > alter table sbtest1 drop index idx_c; Query OK, 0 rows affected (0.05 sec) Records: 0 Duplicates: 0 Warnings: 0 mysql [localhost:8021] {msandbox} (test) > alter table sbtest1 add index idx_c(c); Query OK, 0 rows affected (35.13 sec) Records: 0 Duplicates: 0 Warnings: 0
启用 redo log add index
mysql [localhost:8021] {msandbox} (test) > ALTER INSTANCE ENABLE INNODB REDO_LOG; Query OK, 0 rows affected (0.00 sec) mysql [localhost:8021] {msandbox} (test) > set global sync_binlog=1;set global innodb_flush_log_at_trx_commit=1; Query OK, 0 rows affected (0.00 sec) Query OK, 0 rows affected (0.00 sec) mysql [localhost:8021] {msandbox} (test) > alter table sbtest1 add index idx_c(c); Query OK, 0 rows affected (47.05 sec) Records: 0 Duplicates: 0 Warnings: 0 mysql [localhost:8021] {msandbox} (test) > set global sync_binlog=0;set global innodb_flush_log_at_trx_commit=0; Query OK, 0 rows affected (0.00 sec) Query OK, 0 rows affected (0.00 sec) mysql [localhost:8021] {msandbox} (test) > alter table sbtest1 drop index idx_c; Query OK, 0 rows affected (0.00 sec) Records: 0 Duplicates: 0 Warnings: 0 mysql [localhost:8021] {msandbox} (test) > alter table sbtest1 add index idx_c(c); Query OK, 0 rows affected (47.32 sec) Records: 0 Duplicates: 0 Warnings: 0
总结一下
- 禁用 redo log 不影响 binlog 功能,可以正常同步。
- 禁用 redo log 是实例级,不支持表级。
- 禁用 redo log若发生 crash 是无法 recovery 的,OLTP 系统谨慎使用。
- 适用于大量数据导入场景。
今天带大家了解了MySQL、数据库的相关知识,希望对你有所帮助;关于数据库的技术知识我们会一点点深入介绍,欢迎大家关注golang学习网公众号,一起学习编程~
-
499 收藏
-
244 收藏
-
235 收藏
-
157 收藏
-
101 收藏
-
259 收藏
-
411 收藏
-
476 收藏
-
312 收藏
-
244 收藏
-
195 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 507次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 484次学习
-
- 生动的毛豆
- 这篇文章出现的刚刚好,很详细,受益颇多,mark,关注up主了!希望up主能多写数据库相关的文章。
- 2023-02-23 16:38:33
-
- 老实的汉堡
- 很好,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,帮助很大,总算是懂了,感谢师傅分享技术文章!
- 2023-02-17 05:59:24
-
- 无限的小鸭子
- 太详细了,码起来,感谢楼主的这篇博文,我会继续支持!
- 2023-02-15 03:20:25
-
- 乐观的小蝴蝶
- 这篇文章内容真及时,大佬加油!
- 2023-02-12 17:24:11
-
- 英俊的海燕
- 太全面了,码住,感谢大佬的这篇文章,我会继续支持!
- 2023-02-05 08:33:34
-
- 土豪的小鸽子
- 写的不错,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,帮助很大,总算是懂了,感谢大佬分享技术文章!
- 2023-02-04 22:32:46
-
- 聪明的眼睛
- 这篇技术文章真及时,好细啊,很有用,码起来,关注作者了!希望作者能多写数据库相关的文章。
- 2023-01-29 22:31:20