专业的编程技术博客社区

网站首页 > 博客文章 正文

MySQL数据库读写分离技术实践(mysql的读写分离如何实现)

baijin 2024-09-10 11:05:38 博客文章 10 ℃ 0 评论

一个应用系统是否高可用,整个系统的效率是否满足预期,往往受到多方面的制约因素,例如:运行环境,网络环境以及数据的吞吐量等;作为一般的大型应用系统来说,我们想要提升整个系统的效率,我们大多数情况下会从我们的后端数据库做优化,从而提高我们整个系统的数据吞吐量,如果我们后端采用的是关系型数据,我们可能会想到两种解决方案,一种是更换非关系型数据库,这种方案代价比较昂贵,它会涉及到数据的迁移,以及程序代码的修改;另一种是通过数据库集群的方式,来横向和纵向扩展我们的数据库,这种方案容易实现并且程序代码修改量比较小;

根据MySQL的官方文档介绍,MySQL支持读写分离的集群配置,并且MySQL提供两种类型的读写分离数据复制类型;一种是二进制日志文件方式的数据复制,另一种是Global Transaction Identifiers (GTIDs)。


下面我们通过一个小实验来看看MySQL数据基于二进制日志数据复制方式的主从集群是如何实现的。

OS环境:CentOS7
软件环境:Docker(最新版),MySQL:latest镜像

我们通过Docker容器快速的构建两个MySQL数据库服务器

docker pull mysql
[root@dev01 ~]# docker images
REPOSITORY TAG IMAGE ID CREATED SIZE
mysql latest 62a9f311b99c 4 weeks ago 445MB

可以看到我们已经拉取到最新的MySQL Docker容器,为了在本地环境中启动两个不同的MySQL Docker容器,我们需要通过修改容器的配置文件的方式来改变MySQL的配置;

首先,我们修改MySQL Master(主数据库)的容器配置文件:

一,创建Master数据库的配置文件

vi master.cnf
[mysqld]
# master server id
server-id = 1

# bin log
log_bin = mysql-master-bin
  1. server-id,在MySQL集群数据库中,这个参数必须唯一
  2. log_bin,MySQL采用二进制日志文件复制的文件名

二,将该配置文件拷贝到MySQL Docker容器中

docker run --name mysql -e MYSQL_ROOT_PASSWORD=root -d mysql
docker cp master.cnf fdb98bbd52b6:/etc/mysql/conf.d

三,提交修改后的Docker容器

docker commit -m "add master configure file" fdb98bbd52b6 mysql:master
[root@dev01 ~]# docker images
REPOSITORY TAG IMAGE ID CREATED SIZE
mysql master 345465966cb5 3 hours ago 445MB
  1. commit -m是修改容器后提交的信息,类似Git提交;
  2. fdb98bbd52b6是刚才修改的容器;
  3. mysql:master是我们为修改后的容器打上tag标签master

接下来我们修改MySQL Slave(从数据库)的容器配置文件

一,创建Slave数据库的配置文件

vi slave.cnf
[mysqld]
# slave server id
server-id = 2

# bin log
log_bin = mysql-slave-bin
relay_log = mysql-relay-bin
log_slave_updates = 1
read_only = 1
  1. server-id为从数据库的ID,该参数在MySQL集群中必须保持唯一性;
  2. log_bin如果slave为其它slave的master,必须设置bin_log,在这里我们暂时开启;
  3. relay_log配置中继日志
  4. log_slave_updates表示slave将复制事件写进自己的二进制日志(后面会看到它的用处);
  5. read_only尽量使用read_only,它防止改变数据(除了特殊的线程);

二,将配置文件拷贝到容器中

docker run --name mysql -e MYSQL_ROOT_PASSWORD=root -d mysql
docker cp slave.cnf 8ee82abb2e91:/etc/mysql/conf.d

三,提交修改后的Docker容器

docker commit -m "add slave configure file" 8ee82abb2e91 mysql:slave
[root@dev01 ~]# docker images
REPOSITORY TAG IMAGE ID CREATED SIZE
mysql slave 3a53cd39ee45 4 hours ago 445MB

到此,所需要的两个MySQL容器已经修改完毕,并且保存在我们本地的容器仓库中,接下来我们开始启动刚才修改的两个容器进行后续的配置

一,启动Master数据库

docker run --name master -e MYSQL_ROOT_PASSWORD=root -d mysql:master
  1. --name master是我们为启动的容器名;
  2. mysql:master是我们刚才修改后并且提交到本地的Docker镜像
  3. 默认数据库root的密码设置为root

二,启动Slave数据库

docker run --link master:master --name slave -e MYSQL_ROOT_PASSWORD=root -d mysql:slave
  1. 为了master容器与slave容器的网络互通,我们添加了--line选项来连接到我们刚才启动的名为master容器;
  2. --name slave是我们为启动的容器名;
  3. mysql:slave是我们刚才修改后并且提交到本地的Docker镜像;
  4. 默认数据库root的密码设置为root

三,进入master容器中通过mysql命令进入数据库

docker exec -it master /bin/bash
mysql -u root -proot


四,在master数据库中创建用于复制数据的账号,并且给该账号相应的权限

create user 'repl'@'%' identified by 'repl-pwd';
grant replication slave on *.* to 'repl'@'%';
flush privileges;


五,查看master数据库的状态

mysql> show master status;
+-------------------------+----------+--------------+------------------+-------------------+
| File | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
+-------------------------+----------+--------------+------------------+-------------------+
| mysql-master-bin.000003 | 2743 | | | |
+-------------------------+----------+--------------+------------------+-------------------+
1 row in set (0.00 sec)


六,进入slave容器中通过mysql命令进入数据库

docker exec -it slave /bin/bash
mysql -u root -proot


七,配置slave,将master数据库指向刚才配置好的master数据库节点,并且启动slave

change master to master_host='master', master_user='repl', master_password='repl-pwd', master_log_file='mysql-master-bin.000003', master_log_pos=0;
start slave;


八,查看slave数据库状态

mysql> show slave status\G
*************************** 1. row ***************************
 Slave_IO_State:
 Master_Host: master
 Master_User: repl
 Master_Port: 3306
 Connect_Retry: 60
 Master_Log_File: mysql-master-bin.000003
 Read_Master_Log_Pos: 4
 Relay_Log_File: mysql-relay-bin.000001
 Relay_Log_Pos: 4
 Relay_Master_Log_File: mysql-master-bin.000003
 Slave_IO_Running: No
 Slave_SQL_Running: No
 Replicate_Do_DB:
 Replicate_Ignore_DB:
 Replicate_Do_Table:
 Replicate_Ignore_Table:
 Replicate_Wild_Do_Table:
 Replicate_Wild_Ignore_Table:
 Last_Errno: 0
 Last_Error:
 Skip_Counter: 0
 Exec_Master_Log_Pos: 4
 Relay_Log_Space: 155
 Until_Condition: None
 Until_Log_File:
 Until_Log_Pos: 0
 Master_SSL_Allowed: No
 Master_SSL_CA_File:
 Master_SSL_CA_Path:
 Master_SSL_Cert:
 Master_SSL_Cipher:
 Master_SSL_Key:
 Seconds_Behind_Master: NULL
Master_SSL_Verify_Server_Cert: No
 Last_IO_Errno: 2061
 Last_IO_Error: error connecting to master 'repl@master:3306' - retry-time: 60 retries: 1 message: Authentication plugin 'caching_sha2_password' reported error: Authentication requires secure connection.
 Last_SQL_Errno: 0
 Last_SQL_Error:
 Replicate_Ignore_Server_Ids:
 Master_Server_Id: 0
 Master_UUID:
 Master_Info_File: mysql.slave_master_info
 SQL_Delay: 0
 SQL_Remaining_Delay: NULL
 Slave_SQL_Running_State:
 Master_Retry_Count: 86400
 Master_Bind:
 Last_IO_Error_Timestamp: 190912 06:06:14
 Last_SQL_Error_Timestamp:
 Master_SSL_Crl:
 Master_SSL_Crlpath:
 Retrieved_Gtid_Set:
 Executed_Gtid_Set:
 Auto_Position: 0
 Replicate_Rewrite_DB:
 Channel_Name:
 Master_TLS_Version:
 Master_public_key_path:
 Get_master_public_key: 0
 Network_Namespace:
1 row in set (0.00 sec)

由于最新版的MySQL为了提升安全性更改了密码校验插件,在这里我们还是采用之前的密码校验插件,我们在master数据库上用如下的命令来修改刚才在master数据库创建的用户

alter user 'repl'@'%' identified by 'repl-pwd' password expire never;
alter user 'repl'@'%' identified with mysql_native_password by 'repl-pwd';
flush privileges;

九,再次查看slave状态

mysql> show slave status\G
*************************** 1. row ***************************
 Slave_IO_State: Waiting for master to send event
 Master_Host: master
 Master_User: repl
 Master_Port: 3306
 Connect_Retry: 60
 Master_Log_File: mysql-master-bin.000003
 Read_Master_Log_Pos: 2743
 Relay_Log_File: mysql-relay-bin.000002
 Relay_Log_Pos: 2971
 Relay_Master_Log_File: mysql-master-bin.000003
 Slave_IO_Running: Yes
 Slave_SQL_Running: Yes
 Replicate_Do_DB:
 Replicate_Ignore_DB:
 Replicate_Do_Table:
 Replicate_Ignore_Table:
 Replicate_Wild_Do_Table:
 Replicate_Wild_Ignore_Table:
 Last_Errno: 0
 Last_Error:
 Skip_Counter: 0
 Exec_Master_Log_Pos: 2743
 Relay_Log_Space: 3179
 Until_Condition: None
 Until_Log_File:
 Until_Log_Pos: 0
 Master_SSL_Allowed: No
 Master_SSL_CA_File:
 Master_SSL_CA_Path:
 Master_SSL_Cert:
 Master_SSL_Cipher:
 Master_SSL_Key:
 Seconds_Behind_Master: 0
Master_SSL_Verify_Server_Cert: No
 Last_IO_Errno: 0
 Last_IO_Error:
 Last_SQL_Errno: 0
 Last_SQL_Error:
 Replicate_Ignore_Server_Ids:
 Master_Server_Id: 1
 Master_UUID: f6e8062e-d521-11e9-9009-0242ac110008
 Master_Info_File: mysql.slave_master_info
 SQL_Delay: 0
 SQL_Remaining_Delay: NULL
 Slave_SQL_Running_State: Slave has read all relay log; waiting for more updates
 Master_Retry_Count: 86400
 Master_Bind:
 Last_IO_Error_Timestamp:
 Last_SQL_Error_Timestamp:
 Master_SSL_Crl:
 Master_SSL_Crlpath:
 Retrieved_Gtid_Set:
 Executed_Gtid_Set:
 Auto_Position: 0
 Replicate_Rewrite_DB:
 Channel_Name:
 Master_TLS_Version:
 Master_public_key_path:
 Get_master_public_key: 0
 Network_Namespace:
1 row in set (0.00 sec)

我们主要查看Slave_IO_Running和Slave_SQL_Running,表示我们的slave数据库节点已经成功的连接到了我们的master数据库节点。

十,验证,我们在master数据库节点上创建一个空的数据库

mysql> create database data;
Query OK, 1 row affected (0.10 sec)

mysql> show databases;
+--------------------+
| Database |
+--------------------+
| data |
| information_schema |
| mysql |
| performance_schema |
| sys |
+--------------------+
5 rows in set (0.01 sec)


十一,验证slave,查看刚才在master数据库节点上创建的数据库是否同步到slave数据节点

mysql> show databases;
+--------------------+
| Database |
+--------------------+
| data |
| information_schema |
| mysql |
| performance_schema |
| sys |
+--------------------+
5 rows in set (0.01 sec)

可以看到,我们刚才在master数据库节点上创建的数据库已经同步到我们的slave数据库节点,master和slave的数据库数据已经保持一致。


以上实验我们选取了两个数据库(一主一从)的方式,在实际的应用中我们会根据我们的应用场景,slave数据库节点也有可能被选择作为主数据库,这个时候slave数据库节点就有可能是1到N个。


参考:

https://dev.mysql.com/doc/refman/5.7/en/replication.html

文章如有不妥之处,欢迎指正!谢谢!

本文暂时没有评论,来添加一个吧(●'◡'●)

欢迎 发表评论:

最近发表
标签列表