Macat数据库中间件入门
来源:SegmentFault
时间:2023-01-16 20:16:50 390浏览 收藏
本篇文章主要是结合我之前面试的各种经历和实战开发中遇到的问题解决经验整理的,希望这篇《Macat数据库中间件入门》对你有很大帮助!欢迎收藏,分享给更多的需要的朋友学习~
一.什么是数据切分
指通过某种特定的条件,将我们存放在同一个数据库中的数据分散存
放到多个数据库(主机)上面,以达到分散单台设备负载的效果。
数据切分一般分为两种:垂直切分和水平切分。
二.垂直切分
按照应用程序功能模块来分多个数据库,就是垂直拆分。
优点:
◆ 数据库的拆分简单明了,拆分规则明确;
◆ 应用程序模块清晰明确,较为简单,整合容易;
◆ 数据维护方便,容易定位
缺点:
◆ 部分表关联无法在数据库级别完成,需要在程序中完成,存在跨库join的问题。对于这类的表,就需要去做取舍,是数据库让步业务,共用一个数据源,还是分成多个库,业务之间通过接口来做调用处理;初期数据量比较少,或者资源有限的情况下,会选择共用数据源,但是当数据发展到了一定的规模,负载很大的情况,就需要必须去做分割。
◆ 对于访问极其频繁且数据量超大的表仍然存在性能瓶颈,不一定能满足要求;
◆ 事务处理相对更为复杂;
◆ 切分达到一定程度之后,扩展性会遇到限制;
◆ 过多切分可能会带来系统过度复杂而维护困难。
三.水平拆分
为了解决垂直拆分带来的问题,(一般来说是基于解决超大表性能瓶颈问题,查询很慢,读写分离模式只有一台主机,若遇到高并发插入,一台主机承受不住压力),引入了水平拆分。
水平拆分不是将表做分类,而是按照某个字段的某种规则来分散到多个库之中,每个表中包含一部分数据。简单来说,数据的水平切分理解为是按照数据记录行来切分,将表中的某些行切分到一个数据库,而另外的某些行又切分到其他的数据库中,也就是俗称分库分表。
水平切分的优点
◆ 表关联基本能够在数据库端全部完成;----不需要通过应用程序来关联表查询合并
◆ 不会存在某些超大型数据量和高负载的表遇到瓶颈的问题;----分多库多表则不管是查询还是插入都不存在性能瓶颈问题
◆ 事务处理相对简单;
◆ 应用程序端整体架构改动相对较少;----对程序基本透明
水平切分的缺点
◆ 切分规则相对更为复杂,很难抽象出一个能够满足整个数据库的切分规则;
◆ 后期数据的维护难度有所增加,人为手工定位数据更困难;
◆ 应用系统各模块耦合度较高,可能会对后面数据的迁移拆分造成一定的困难。
◆ 跨节点合并排序分页问题
◆ 多数据源管理问题
四.Mycat简介
Mycat是一个数据库代理,MySQL、SQL Server、Oracle、DB2、PostgreSQL等主流数据库,也支持MongoDB这种新型NoSQL方式的存储
Mycat并不存储数据,只做数据路由,我们也可以简单认为Mycat就是数据库中间件。
它拦截了用户发送过来的SQL语句,首先对SQL语句做了一些特定的分析:如分片分析、路由分析、读写分离分析、缓存分析等,然后将此SQL发往后端的真实数据库,并将返回的结果做适当的处理,最终再返回给用户。
五.Mycat重要概念
逻辑库(schema):存在在mycat里面的虚拟库
逻辑表(table):存在在mycat里面的虚拟表
分片表:分片表,是指那些原有的很大数据的表,需要切分到多个数据库的表,这样,每个分片都有一部分数据,所有分片构成了完整的数据
非分片表:不需要进行数据切分的表
ER表:子表的记录与所关联的父表记录存放在同一个数据分片上,即子表依赖于父表,通过表分组(Table Group)保证数据Join不会跨库操作。
表分组(Table Group):是解决跨分片数据join的一种很好的思路,也是数据切分规划的重要一条规则
全局表:例如字典表,每一个数据分片节点上有保存了一份字典表数据
数据冗余是解决跨分片数据join的一种很好的思路,也是数据切分规划的另外一条重要规则
分片节点(dataNode):数据切分后,一个大表被分到不同的分片数据库上面,每个表分片所在的数据库就是分片节点
节点主机(dataHost):数据切分后,每个分片节点(dataNode)不一定都会独占一台机器,同一机器上面可以有多个分片数据库,这样一个或多个分片节点(dataNode)所在的机器就是节点主机(dataHost),为了规避单节点主机并发数限制,尽量将读写压力高的分片节点(dataNode)均衡的放在不同的节点主机(dataHost)
分片规则(rule):前面讲了数据切分,一个大表被分成若干个分片表,就需要一定的规则,这样按照某种业务规则把数据分到某个分片的规则就是分片规则,数据切分选择合适的分片规则非常重要,将极大的避免后续数据处理的难度。
全局序列号(sequence):数据切分后,原有的关系数据库中的主键约束在分布式条件下将无法使用,因此需要引入外部机制保证数据唯一性标识,这种保证全局性的数据唯一标识的机制就是全局序列号(sequence)。
上述基本概念后续再看案例介绍
以上就是本文的全部内容了,是否有顺利帮助你解决问题?若是能给你带来学习上的帮助,请大家多多支持golang学习网!更多关于数据库的相关知识,也可关注golang学习网公众号。
-
499 收藏
-
244 收藏
-
235 收藏
-
157 收藏
-
101 收藏
-
136 收藏
-
490 收藏
-
428 收藏
-
329 收藏
-
445 收藏
-
366 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 立即学习 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 立即学习 507次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 立即学习 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 立即学习 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 立即学习 484次学习