百万数据量 MySQL 模糊搜索提速:如何在 512M 内存限制下优化查询速度?
时间:2024-12-23 14:19:04 304浏览 收藏
对于一个数据库开发者来说,牢固扎实的基础是十分重要的,golang学习网就来带大家一点点的掌握基础知识点。今天本篇文章带大家了解《百万数据量 MySQL 模糊搜索提速:如何在 512M 内存限制下优化查询速度?》,主要介绍了,希望对大家的知识积累有所帮助,快点收藏起来吧,否则需要时就找不到了!
百万数据量 mysql 模糊搜索提速
在 mysql 中,当数据量达到百万级时,执行模糊查询可能会变得非常缓慢。本文提供的解决方案无需借助第三方中间件,即可在 512m 的 java 堆内存限制下显着提升模糊搜索的速度。
基于索引表的方案
创建一个索引表,包含三列:"当前词"、"下一词"和"原记录主键 id"。其中,"当前词"和"下一词"表示搜索关键词中的连续单词,"原记录主键 id"指向满足条件的原始记录。
索引表结构
当前词 | 下一词 | 原记录主键 id |
---|---|---|
mysql | 一 | 1 |
一 | 千 | 1 |
千 | 万 | 1 |
万 | 的 | 1 |
... | ... | ... |
模 | 糊 | 1 |
糊 | 搜 | 1 |
搜 | 索 | 1 |
索 | null | 1 |
搜索算法
搜索关键词时,按顺序查询索引表,获得满足每个单词条件的原记录id。然后使用这些 id 在原始表中查找匹配记录。
例:搜索“模糊搜索”
SELECT 原记录主键ID FROM (SELECT 原记录主键ID FROM 索引表 WHERE 当前词 = '模' AND 下一词 = '糊') JOIN (SELECT 原记录主键ID FROM 索引表 WHERE 当前词 = '糊' AND 下一词 = '搜') USING(原记录主键ID) JOIN (SELECT 原记录主键ID FROM 索引表 WHERE 当前词 = '搜' AND 下一词 = '索') USING(原记录主键ID) JOIN (SELECT 原记录主键ID FROM 索引表 WHERE 当前词 = '索' AND 下一词 IS NULL) USING(原记录主键ID)
jvm 优化
为了充分利用有限的内存,建议使用如下的jvm 优化技术:
- 缩小永久代尺寸
- 设置metaspace 垃圾回收参数(-xx:metaspacesize、-xx:maxmetaspacesize)
- 使用压缩引用和指针
- 启用分代垃圾回收
文中关于的知识介绍,希望对你的学习有所帮助!若是受益匪浅,那就动动鼠标收藏这篇《百万数据量 MySQL 模糊搜索提速:如何在 512M 内存限制下优化查询速度?》文章吧,也可关注golang学习网公众号了解相关技术文章。
相关阅读
更多>
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
-
501 收藏
最新阅读
更多>
-
184 收藏
-
237 收藏
-
210 收藏
-
192 收藏
-
364 收藏
-
373 收藏
课程推荐
更多>
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 507次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 484次学习