多平台统一管理软件接口,如何实现多平台统一管理软件接口
250
2022-11-05
linux 搭建mycat
前言
对于服务端开发的同学对mysql应该不陌生,尽管mysql5.7之后单表可存放的数据量超过千万都不是问题,但是单表的数据量一旦上去之后,带来的一个很明显的问题就是,在应用端,接口响应将会边长;
虽然可以通过索引来解决一部分查询性能问题,但数据量继续增长的话,单表的查询性能始终是一个绕不开的问题;
如何解决mysql查询性能的问题是困扰很多DBA或服务端开发的现状,从源头来看,最根本的还是要减少单表的数据量过大的问题;
于是行业中就出现了“分库分表”的解方案,这里就不再过多展开了,有兴趣的同学可以查阅相关资料;
常用的分库分表的形式,主要是两种:垂直拆分和水平拆分。
分库分表策略简述
一、垂直拆分
1、垂直分库
以表为依据,根据业务将原本单库中的多个表拆分到不同库下面去;
2、垂直分库特点
每个库的表结构都不一样;每个库的数据也不一样;所有库的并集是全量数据;
3、垂直分表
以字段为依据,根据字段属性将一张表中的多个字段拆分到不同表中去;
4、垂直分表特点
每个表的结构都不一样;每个表的数据也不一样,一般通过一列(主键/外键)关联;所有表的并集是全量数据;
二、水平拆分
1、水平分库
以字段为依据,按照一定策略,将一个库的数据拆分到多个库中;
2、水平分库特点
每个库的表结构都一样;每个库的数据都不一样;所有库的并集是全量数据;
3、水平分表
以字段为依据,按照一定策略,将一个表的数据拆分到多个表中去;
4、水平分表特点
每个表的表结构都一样;每个表数据都不一样;所有表的并集是全量数据;
分库分表常用解决方案
基于AOP实现,在应用程序中对本地执行的SQL进行拦截,解析、改写、路由处理。需要自行编码配置实现,只支持java语言,性能较高,支持多种分片策略,通常只需要在配置文件做相关的配置就可以使用,上手成本较低;MyCat,数据库分库分表中间件,不用调整代码即可实现分库分表,支持多种语言,性能方面相对shardingJDBC弱一些;
关于shardingJdbc 的用法,可以参考:shardingJdbc使用
mycat简介
Mycat是开源的、活跃的、基于Java语言编写的MySQL数据库中间件,客户端可以像连接mysql一样来使用mycat,就像感觉不到mycat的存在;
具体来说,客户端只需要连接MyCat即可,具体底层用到几台数据库,每台数据库服务器里面存储了什么数据,都无需关心,这个交由mycat来处理,实际业务中的分库分表策略,可以根据需要在相关的配置文件配置即可;
如下为mycat的一个原理简图;
mycat目前已经发展到mycat2了,整体来说,mycat作为一款优秀的数据库代理中间件,还是有诸多的优势的,总结如下:
性能可靠稳定(经过众多厂商的生产实践);社区较为活跃;体系比较完善,支持分库分表,可以根据业务需要,定制灵活的配置策略等;
服务规划
下面演示 基于centos7 快速搭建起mycat的使用环境,服务规划如下,3个mysql实例将会使用docker安装,以端口号进行区分
IP | PORT | 角色 |
101.34.33.77 | 8066 | mycat访问端口 |
101.34.33.77 | 3306 | mysql实例1 |
101.34.33.77 | 3307 | mysql实例2 |
101.34.33.77 | 3308 | mysql实例3 |
mysql 实例搭建
为了使用方便,使用docker 快速搭建起3个mysql的实例,以不同的端口号做区分,搭建步骤如下:
1、创建目录
mkdir
2、启动 mysql 实例
docker run -p 3306:3306 --name mysql_1 -v /usr/local/docker/mysql/conf:/etc/mysql/conf.d -v /usr/local/docker/mysql/logs:/logs -v /usr/local/docker/mysql/data:/var/lib/mysql -e MYSQL_ROOT_PASSWORD=root -d mysql:5.7
关于拉取mysql 的镜像的步骤这里省略了,相信使用过docker的同学应该都会了,按照上面同样的方式,创建目录并且再启动另外2个mysql的实例,效果如下,说明mysql的准备工作完成
启动之后,使用navicat分别连接,并且在3个mysql服务实例下创建名称为 “db01” 的数据库;
到这里,准备工作就初步完成
mycat 搭建过程
一、mycat下载地址
1.6.7.4的版本
2、上传下载包到指定目录并解压
tar -zxvf Mycat-server-1.6.7.4-release-20200105164103-linux.tar.gz
3、进入解压后的目录,修改配置文件
找到conf目录下的schema.xml文件和server.xml两个文件,接下来,重点对schema.xml文件进行配置说明(最好提前备份下这两个文件)
在正式对这两个配置文件进行配置之前,有必要了解下关于schema.xml配置文件中的目录结构;
schema.xml 配置文件说明
下面这张图是schema.xml配置文件中各个节点映射出的一个架构简图,对照这个图可以更好的理解该文件中各个配置参数的含义;
各个节点配置参数说明:
分片规则:
前面讲几种分库分表的概念时,一个大表被分成若干个分片表,就需要一定的规则,这样按照某种业务规则把数据分到某个分片的规则就是分片规则,数据切分选择合适的分片规则非常重要,将极大的避免后续数据处理的难题,分片规则在conf目录下由rule.xml配置文件统一管理,而在schema.xml文件中只需要指定即可;
以上了解了schema.xml配置文件中核心配置参数的概念后,接下来在结合真实的业务需求进行配置的时候就有了明确的方向,看下面这个需求:
有一个tb_order表,由于数据量膨胀的比较厉害,现在需要对该表进行数据分片,将分成3个数据节点进行存储,每个节点上存储一定量的数据;
5、配置schema.xml和server.xml文件
按照上面对schema.xml文件的配置参数的了解,schema.xml 文件最终得到下面的配置
注意,这还没有完,就像我们访问mysql时需要账户和密码,使用了mycay之后,客户端不再直接连接mysql,而是连接mycat,所以还需要在server.xml配置文件中配置连接信息;
将该配置文件拉到最后,在下图的位置填写客户端连接信息,包括连接的账户和密码;
6、启动mycat
进入到bin目录下,使用下面的命令进行启动或停止
bin/mycat start(stop)
如何确认是否启动成功呢?可以在logs目录下检查下面的这个wrapper.log的l文件,出现下面的提示说明启动成功;
mycat 功能测试与验证
接下来测试下mycat配置是否生效,即是否能够按照预期的数据分片规则进行数据的分片;
1、使用navicat连接mycat
注意这里的端口号是:8066
连接上了之后,就可以看到里面给我们创建了一个DB01的逻辑库
2、在DB01下,创建一个表
执行下面的sql进行创建
CREATE TABLE TB_ORDER (id BIGINT(20) NOT NULL,title VARCHAR(100) NOT NULL ,PRIMARY KEY (id))ENGINE=INNODB DEFAULT CHARSET=utf8 ;
创建成功之后,分别去3个数据库实例下,检查同样的表是否在3个db01的数据库下创建成功即可;
3、通过mycat的表,插入几条数据
INSERT INTO TB_ORDER(id,title) VALUES(1,'order01');INSERT INTO TB_ORDER(id,title) VALUES(2,'order02');INSERT INTO TB_ORDER(id,title) VALUES(3,'order03');
执行成功后,可以去3个库下检查下,最终发现在第一个mysql的实例下的表中插入了数据,另外2个表未保存数据
为什么会出现上面的现象呢?还记得在上面的schema.xml文件中的下面这一处的配置吗?这就是mycat提供的配置规则,那就需要深入到 rule.xml配置文件中去深入探究,即在当前这种配置规则下,每个表只是分担了一定数量的数据,至于分片规则,后续将会继续深入探究,敬请关注!
版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。
发表评论
暂时没有评论,来抢沙发吧~