MySQL高效导入多个.sql文件方法详解
来源:脚本之家
时间:2023-01-07 12:04:05 206浏览 收藏
本篇文章主要是结合我之前面试的各种经历和实战开发中遇到的问题解决经验整理的,希望这篇《MySQL高效导入多个.sql文件方法详解》对你有很大帮助!欢迎收藏,分享给更多的需要的朋友学习~
MySQL有多种方法导入多个.sql文件(里面是sql语句),常用的有两个命令:mysql和source。
但是这两个命令的导入效率差别很大,具体请看最后的比较。
(还有sqlimport和LOAD DATA INFILE等导入方法,不过它们主要用于导入.csv或.xml文件数据,不是.sql文件)
假设我们有一个 users.sql 大文件,为方便我们将其拆分成:user1.sql、user2.sql、user3.sql 三个独立的小sql文件。
1、mysql命令导入
mysql命令导入多个sql文件方法:
$ for SQL in *.sql; do mysql -uroot -p"123456" mydb2、source命令导入
source命令需要首先进入MySQL命令行:
$ mysql -uroot -p"123456"导入多个sql文件需要先创建一个额外的文件,名字随意,这里我们取:all.sql,内容:
source user1.sql
source user2.sql
source user3.sql注意,这里每行一条,必须以source命令开头。
然后用source命令执行该文件:
mysql > use mydb; mysql > source /home/gary/all.sql3、如何提高导入速度?
对于百M级以上文件,如果光这样导入,速度是极其缓慢的,
根据MySQL官方建议,我们有几个措施可以极大提高导入的速度,如下:
对于MyISAM,调整系统参数:bulk_insert_buffer_size(至少单个文件大小的2倍以上)
对于InnoDB,调整系统参数:innodb_log_buffer_size(至少单个文件大小的2倍以上,导入完成后可以改回默认的8M,注意不是innodb_buffer_pool_size。)
除主键外,删除其他索引,导入完成后重建索引。
关闭自动提交:autocommit=0。(请勿用set global autocommit=1;命令来关闭,否则整个MySQL系统都会停止自动commit,innodb log buffer很快就会爆满,5和6项也请仅在会话中有效,正确做法请往下看)
关闭唯一索引检查:unique_checks=0。(关闭了这一项会影响on duplicate key update的效果)
关闭外键检查:foreign_key_checks=0。
insert值写在一条语句内,如:INSERT INTO yourtable VALUES (1,2), (5,5), ...;
有自增列的,设置:innodb_autoinc_lock_mode的值为2,
其中,第1-2、8条在修改my.cnf文件,然后重启MySQL:
bulk_insert_buffer_size=2G; innodb_log_buffer_size=2G; innodb_autoinc_lock_mode=2;第3条用到的命令:
#删除索引 DROP INDEX index_name ON talbe_name ALTER TABLE table_name DROP INDEX index_name ALTER TABLE table_name DROP PRIMARY KEY # 添加索引 ALTER TABLE table_name ADD INDEX index_name (column_list) ALTER TABLE table_name ADD UNIQUE (column_list) ALTER TABLE table_name ADD PRIMARY KEY (column_list)第4-6条写在.sql中,批量bash脚本如下:
for SQL in *.sql; do echo $SQL; sed -i '1i\SET autocommit=0;\nSET unique_checks=0;\nSET foreign_key_checks=0;' $SQL sed -i '$a\COMMIT;\nSET autocommit=1;\nSET unique_checks=1;\nSET foreign_key_checks=1;' $SQL done按照以上几个步骤调整后,插入速度必会有大幅度的提高。
4、mysql和source效率比较
在sql文件较小的情况下,source速度比mysql高,
在实际测试导入时,5个合计25M的sql文件,mysql命令的速度比source要快2秒(我自己的测试,不代表普遍的结果),
可以粗略得出,在导入大的sql文件时,建议使用mysql命令。
以上既是MySQL高效导入多个.sql文件的方法,希望能帮助到大家
到这里,我们也就讲完了《MySQL高效导入多个.sql文件方法详解》的内容了。个人认为,基础知识的学习和巩固,是为了更好的将其运用到项目中,欢迎关注golang学习网公众号,带你了解更多关于mysql的知识点!
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
132 收藏
-
188 收藏
-
404 收藏
-
101 收藏
-
265 收藏
-
209 收藏
-
446 收藏
-
339 收藏
-
285 收藏
-
259 收藏
-
374 收藏
-
475 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 508次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 484次学习