Windows 环境下,MySQL 的主从复制和主主复制

Mysql的主从配置

1.找到配置文件

找到配置文件是主从复制的第一个难点。很多新手都容易找错配置文件,一般my.ini配置文件所在的位置都是隐藏的。

一般人都以为配置文件为
C:\Program Files\MySQL\MySQL Server 5.7中的my-default.ini文件。


但是实际上配置文件是
C:\ProgramData\MySQL\MySQL Server 5.7下my.ini文件。


2.主库与从库的配置

找到主数据库的配置文件my.cnf(或者my.ini),
一般情况下在mysql的安装目录,在mysqld部分插入如下两行:

server_id = 1      #唯一 ,要与备机的不同
log-bin= mysql-bin #开启二进制日志

找到备机数据库的配置文件my.cnf(或者my.ini),
一般情况下在mysql的安装目录,在mysqld部分插入如下两行:

server_id = 2      #唯一 ,要与备机的不同
log-bin= mysql-bin #开启二进制日志

配置完后,重启主机与备机的服务。

3.打开mysql会话。

主库(24)下的操作:
第一步[创建用户]:mysql> CREATE USER '使用名'@'备机IP地址' IDENTIFIED BY '密码';

mysql>create user 'mysql1'@'172.16.8.25' identified by '123456'; 

第二步[分配权限]:mysql> GRANT REPLICATION SLAVE ON . TO '使用名'@'备机IP地址';

mysql>grant replication slave on *.* to 'mysql1'@'172.16.8.25';  

第三步[刷新权限]:

mysql>flush privileges; 

第四步[查看master状态]

mysql >show master status;

输出的结果为:

|      File        | Position |Binlog_Do_DB | Binlog_Ignore_DB|
| mysql-bin.000003 |    73    |   test      | manual,mysql    | 

File的值为 mysql-bin.000003;
Position的值为73;
Binlog_Do_DB的值为test;
Binlog_Ignore_DB的值为manual,mysql ;

记住File下的值和Position的值。

从库下(25)操作:

从库连接到主库

mysql> CHANGE MASTER TO        
MASTER_HOST='172.16.8.24',          #主机的IP      
MASTER_USER='mysql1',               #之前创建的那个使用名       
MASTER_PASSWORD='123456',           #密码      
MASTER_LOG_FILE='mysql-bin.000003', #这是主库中show master status;File下的那个值       
MASTER_LOG_POS=73;                  #这是主库Position下的那个值

开启slave同步进程

mysql>start slave;  

查看slave状态

mysql>show slave status\G

输出结果

*************************** 1. row ***************************              
       Slave_IO_State: Waiting for master to send event                  
          Master_Host: 172.16.8.24                  
          Master_User: mysql1                  
          Master_Port: 3306                
        Connect_Retry: 60             
      Master_Log_File: mysql-bin.000003         
  Read_Master_Log_Pos:11662              
       Relay_Log_File:mysqld-relay-bin.000022                
        Relay_Log_Pos: 11765       
Relay_Master_Log_File: mysql-bin.000003             
     Slave_IO_Running: Yes            
    Slave_SQL_Running: Yes              
      Replicate_Do_DB:           
  Replicate_Ignore_DB:   

... 当Slave_IO_RunningSlave_SQL_Runningyes时,主从复制创建成果。可以在主库中创建一个表,这时从库中也会出现创建的那个表。

二、主主配置

两台主机的主主配置相当于两个主从配置。在上方例子的基础上进行配置。

原主库
配置文件中加入:

replicate-do-db=test
auto-increment-offset=1
auto-increment-increment=2 

原从库
配置文件中加入:

replicate-do-db=test
auto-increment-offset=2
auto-increment-increment=2  

说明:

  1. log-bin :需要启用二进制日志
  2. server-id : 用于标识不同的数据库服务器
  3. binlog-do-db : 需要记录到二进制日志的数据库
  4. binlog-ignore-db : 忽略记录二进制日志的数据库
  5. auto-increment-offset :该服务器自增列的初始值。
    1.auto-increment-increment :该服务器自增列增量。
  6. replicate-do-db :指定复制的数据库
  7. replicate-ignore-db :不复制的数据库
  8. relay_log :从库的中继日志,主库日志写到中继日志,中继日志再重做到从库。
  9. log-slave-updates :该从库是否写入二进制日志,如果需要成为多主则可启用。只读可以不需要。 如果为多主的话注意设置 auto-increment-offset 和 auto-increment-increment如上面为双主的设置:服务器 152 自增列显示为:1,3,5,7,……(offset=1,increment=2)服务器 153 自增列显示为:2,4,6,8,……(offset=2,increment=2)

2.mysql编写

原从库中进行一下操作:
第一步[创建用户]:

mysql>create user 'mysql2'@'172.16.8.24' identified by '123456';

第二步[赋予权限]

mysql> replication slave on *.* to 'mysql2'@'172.16.8.24';  

第三步[刷新权限]:

mysql>flush privileges;   

第四步[查看master状态]

mysql >show master status;

输出结果为:

| File             | Position  | Binlog_Do_DB| Binlog_Ignore_DB
| mysql-bin.000002 | 88     

记住File下的值和Position的值。

原主库中
进行一下操作:

mysql> CHANGE MASTER TO        
MASTER_HOST='172.16.8.25',    
MASTER_USER='mysql2',       
MASTER_PASSWORD='123456',      
MASTER_LOG_FILE='mysql-bin.000002',      
MASTER_LOG_POS=88; 

开启slave同步进程

mysql>start slave;   

查看slave状态

mysql>show slave status\G;’

输出结果为:

——————————1. row———————————      
       Slave_IO_State: Waiting for master to send event                 
          Master_Host: 172.16.8.24                 
          Master_User: mysql2                  
          Master_Port: 3306                
        Connect_Retry: 60             
      Master_Log_File: mysql-bin.000002        
  Read_Master_Log_Pos: 11662               
       Relay_Log_File: mysqld-relay-bin.000022             
        Relay_Log_Pos: 11765       
Relay_Master_Log_File: mysql-bin.000002            
     Slave_IO_Running: Yes            
    Slave_SQL_Running: Yes            
      Replicate_Do_DB: test      
  Replicate_Ignore_DB:       

. 当主库和从库中,进行show slave status\G后,Slave_IO_RunningSlave_SQL_Runningyes时,主主复制创建成功

主从同步延迟的原因及解决办法

主从数据库的区别

  • 从数据库(Slave)是主数据库的备份,当主数据库(Master)变化时从数据库要更新,这些数据库软件可以设计更新周期。
  • 这是提高信息安全的手段。主从数据库服务器不在一个地理位置上,当发生意外时数据库可以保存。

主从分工

  • 其中Master负责写操作的负载,也就是说一切写的操作都在Master上进行,而读的操作则分摊到Slave上进行。这样一来的可以大大提高读取的效率。
  • 在一般的互联网应用中,经过一些数据调查得出结论,读/写的比例大概在 10:1左右 ,也就是说大量的数据操作是集中在读的操作,这也就是为什么我们会有多个Slave的原因。但是为什么要分离读和写呢?
  • 熟悉DB的研发人员都知道,写操作涉及到锁的问题,不管是行锁还是表锁还是块锁,都是比较降低系统执行效率的事情。
  • 我们这样的分离是把写操作集中在一个节点上,而读操作其其他的N个节点上进行,从另一个方面有效的提高了读的效率,保证了系统的高可用性。

基本过程

  • Mysql的主从同步就是当master(主库)发生数据变化的时候,会实时同步到slave(从库)。
  • 主从复制可以水平扩展数据库的负载能力,容错,高可用,数据备份。
  • 不管是delete、update、insert,还是创建函数、存储过程,都是在master上,当master有操作的时候,slave会快速的接受到这些操作,从而做同步。

用途和条件

mysql主从复制用途

  • 实时灾备,用于故障切换
  • 读写分离,提供查询服务
  • 备份,避免影响业务

主从部署必要条件

  • 主库开启binlog日志(设置log-bin参数)
  • 主从server-id不同
  • 从库服务器能连通主库

主从同步的粒度、原理和形式

粒度

三种主要实现粒度

  • statement: 会将对数据库操作的sql语句写道binlog中
  • row: 会将每一条数据的变化写道binlog中。
  • mixed: statement与row的混合。Mysql决定何时写statement格式的binlog, 何时写row格式的binlog。

主要的实现原理、具体操作、示意图

在master机器上的操作

  • 当master上的数据发生变化时,该事件变化会按照顺序写入bin-log中。当slave链接到master的时候,master机器会为slave开启binlog dump线程。
  • 当master的binlog发生变化的时候,bin-log dump线程会通知slave,并将相应的binlog内容发送给slave

在slave机器上操作

  • 当主从同步开启的时候,slave上会创建两个线程:I\O线程。该线程连接到master机器,master机器上的binlog dump 线程会将binlog的内容发送给该I\O线程。该I/O线程接收到binlog内容后,再将内容写入到本地的relay log;sql线程。
  • 该线程读取到I/O线程写入的ralay log。并且根据relay log。并且根据relay log 的内容对slave数据库做相应的操作。

MySQL主从复制原理

  • 从库生成两个线程,一个I/O线程,一个SQL线程;
  • i/o线程去请求主库 的binlog,并将得到的binlog日志写到relay log(中继日志) 文件中;
  • 主库会生成一个 log dump 线程,用来给从库 i/o线程传binlog;
  • SQL 线程,会读取relay log文件中的日志,并解析成具体操作,来实现主从的操作一致,而最终数据一致;

主从形式

mysql主从复制 灵活

  • 一主一从
  • 主主复制
  • 一主多从---扩展系统读取的性能,因为读是在从库读取的;
  • 多主一从---5.7开始支持
  • 联级复制

主从同步的延迟等问题、原因及解决方案

mysql数据库从库同步的延迟问题

相关参数
首先在服务器上执行show slave satus;可以看到很多同步的参数: 

Master_Log_File:

SLAVE中的I/O线程当前正在读取的主服务器二进制日志文件的名称\      

Read_Master_Log_Pos:  

在当前的主服务器二进制日志中,SLAVE中的I/O线程已经读取的位置                  

Relay_Log_File:  

SQL线程当前正在读取和执行的中继日志文件的名称
                     

Relay_Log_Pos:  

在当前的中继日志中,SQL线程已读取和执行的位置

Relay_Master_Log_File:

由SQL线程执行的包含多数近期事件的主服务器二进制日志文件的名称                 

Slave_IO_Running:

I/O线程是否被启动并成功地连接到主服务器上        

Slave_SQL_Running:

SQL线程是否被启动

Seconds_Behind_Master:

从属服务器SQL线程和从属服务器I/O线程之间的时间差距,单位以秒计。

从库同步延迟情况出现的

  • show slave status显示参数Seconds_Behind_Master不为0,这个数值可能会很大
  • show slave status显示参数 Relay_Master_Log_File 和Master_Log_File显示bin-log的编号相差很大,说明bin-log在从库上没有及时同步,所以近期执行的bin-log和当前IO线程所读的bin-log相差很大
  • mysql的从库数据目录下存在大量 mysql-relay-log 日志,该日志同步完成之后就会被系统自动删除,存在大量日志,说明主从同步延迟很厉害

MySql数据库从库同步的延迟问题

  • MySQL 数据库主从同步延迟原理 mysql 主从同步原理:主库针对写操作,顺序写binlog,从库单线程去主库顺序读”写操作的 binlog ”,从库取到 binlog 在本地原样执行(随机写),来保证主从数据逻辑上一致。
  • mysql 的主从复制都是单线程的操作,主库对所有 DDL 和 DML 产生 binlog,binlog 是顺序写,所以效率很高,slave 的 Slave_IO_Running 线程到主库取日志,效率比较高;
  • 下一步,问题来了,slave 的 Slave_SQL_Running 线程将主库的 DDL 和 DML 操作在 slave 实施。
  • DML 和 DDL 的 IO 操作是随即的,不是顺序的,成本高很多,还可能可s lave 上的其他查询产生 lock争 用,由于Slave_SQL_Running 也是单线程的,所以一个 DDL 卡主了,需要执行10分钟;
  • 那么所有之后的DDL会等待这个 DDL 执行完才会继续执行,这就导致了延时。
  • “主库上那个相同的DDL也需要执行10分,为什么slave会延时?”,答案是master可以并发,Slave_SQL_Running线程却不可以。

MySQL数据库主从同步延迟是怎么产生的?当主库的TPS并发较高时,产生的DDL数量超过slave一个sql线程所能承受的范围,那么延时就产生了,当然还有就是可能与slave的大型query语句产生了锁等待。

首要原因

  • 数据库在业务上读写压力太大,CPU计算负荷大,网卡负荷大,硬盘随机IO太高次要原因:
  • 读写binlog带来的性能影响,网络传输延迟

MySql数据库从库同步的延迟解决方案

架构方面

  • .业务的持久化层的实现采用分库架构,mysql服务可平行扩展,分散压力。
  • 单个库读写分离,一主多从,主写从读,分散压力。这样从库压力比主库高,保护主库。
  • 服务的基础架构在业务和mysql之间加入memcache或者redis的cache层。降低mysql的读压力。
  • 不同业务的mysql物理上放在不同机器,分散压力。
  • 使用比主库更好的硬件设备作为slave总结,mysql压力小,延迟自然会变小。

硬件方面

  • 采用好服务器,比如4u比2u性能明显好,2u比1u性能明显好。
  • 存储用ssd或者盘阵或者san,提升随机写的性能。
  • 主从间保证处在同一个交换机下面,并且是万兆环境。
  • 总结,硬件强劲,延迟自然会变小。一句话,缩小延迟的解决方案就是花钱和花时间。

mysql主从同步加速

  • sync_binlog在slave端设置为0
  • –logs-slave-updates 从服务器从主服务器接收到的更新不记入它的二进制日志。
  • 直接禁用slave端的binlog
  • slave端,如果使用的存储引擎是innodb,innodb_flush_log_at_trx_commit =2

从文件系统本身属性角度优化

  • master端修改linux、Unix文件系统中文件的etime属性, 由于每当读文件时OS都会将读取操作发生的时间回写到磁盘上,对于读操作频繁的数据库文件来说这是没必要的,只会增加磁盘系统的负担影响I/O性能。
  • 可以通过设置文件系统的mount属性,组织操作系统写atime信息,在linux上的操作为:
    • 打开/etc/fstab,加上noatime参数/dev/sdb1 /data reiserfs noatime 1 2然后重新mount文件系统#mount -oremount /data

同步参数调整主库是写,对数据安全性较高

比如sync_binlog=1,innodb_flush_log_at_trx_commit = 1之类的设置是需要的而 slave 则不需要这么高的数据安全,完全可以讲 sync_binlog 设置为0或者关闭 binlog,innodb_flushlog 也可以设置为0来提高sql的执行效率

sync_binlog=1 oMySQL提供一个sync_binlog参数来控制数据库的binlog刷到磁盘上去。

  • 默认,sync_binlog=0,表示MySQL不控制binlog的刷新,由文件系统自己控制它的缓存的刷新。
  • 这时候的性能是最好的,但是风险也是最大的。一旦系统Crash,在binlog_cache中的所有binlog信息都会被丢失。
  • 如果sync_binlog>0,表示每sync_binlog次事务提交,MySQL调用文件系统的刷新操作将缓存刷下去。
  • 最安全的就是sync_binlog=1了,表示每次事务提交,MySQL都会把binlog刷下去,是最安全但是性能损耗最大的设置。
  • 这样的话,在数据库所在的主机操作系统损坏或者突然掉电的情况下,系统才有可能丢失1个事务的数据。
  • 但是binlog虽然是顺序IO,但是设置sync_binlog=1,多个事务同时提交,同样很大的影响MySQL和IO性能。
  • 虽然可以通过group commit的补丁缓解,但是刷新的频率过高对IO的影响也非常大。
  • 对于高并发事务的系统来说,“sync_binlog”设置为0和设置为1的系统写入性能差距可能高达5倍甚至更多。
  • 所以很多MySQL DBA设置的sync_binlog并不是最安全的1,而是2或者是0。这样牺牲一定的一致性,可以获得更高的并发和性能。
  • 默认情况下,并不是每次写入时都将binlog与硬盘同步。
  • 因此如果操作系统或机器(不仅仅是MySQL服务器)崩溃,有可能binlog中最后的语句丢失了。
  • 要想防止这种情况,你可以使用sync_binlog全局变量(1是最安全的值,但也是最慢的),使binlog在每N次binlog写入后与硬盘同步。即使sync_binlog设置为1,出现崩溃时,也有可能表内容和binlog内容之间存在不一致性。

nnodb_flush_log_at_trx_commit (这个很管用)抱怨Innodb比MyISAM慢 100倍?那么你大概是忘了调整这个值。

  • 默认值1的意思是每一次事务提交或事务外的指令都需要把日志写入(flush)硬盘,这是很费时的。
  • 特别是使用电池供电缓存(Battery backed up cache)时。设成2对于很多运用,特别是从MyISAM表转过来的是可以的,它的意思是不写入硬盘而是写入系统缓存。
  • 日志仍然会每秒flush到硬 盘,所以你一般不会丢失超过1-2秒的更新。
  • 设成0会更快一点,但安全方面比较差,即使MySQL挂了也可能会丢失事务的数据。
  • 而值2只会在整个操作系统 挂了时才可能丢数据。

ls(1) 命令可用来列出文件的 atime、ctime 和 mtime。

  • atime 文件的access time 在读取文件或者执行文件时更改的ctime 文件的create time 在写入文件,更改所有者,权限或链接设置时随inode的内容更改而更改mtime 文件的modified time 在写入文件时随文件内容的更改而更改ls -lc filename 
    列出文件的 ctimels -lu filename 
    列出文件的 atimels -l filename 
    列出文件的 mtimestat filename  
    列出atime,mtime,ctimeatime
  • 不一定在访问文件之后被修改因为:
  • 使用ext3文件系统的时候,如果在mount的时候使用了noatime参数那么就不会更新atime信息。
  • 这三个time stamp都放在 inode 中.如果mtime,atime 修改,inode 就一定会改, 既然 inode 改了,那ctime也就跟着改了.
  • 之所以在 mount option 中使用 noatime, 就是不想file system 做太多的修改, 而改善读取效能

MySql数据库从库同步其他问题及解决方案
mysql主从复制存在的问题

  • 主库宕机后,数据可能丢失  
  • 从库只有一个sql Thread,主库写压力大,复制很可能延时

解决方法

  • 半同步复制---解决数据丢失的问题  
  • 并行复制----解决从库复制延迟的问题

半同步复制mysql semi-sync(半同步复制)半同步复制

  • 5.5集成到mysql,以插件的形式存在,需要单独安装  
  • 确保事务提交后binlog至少传输到一个从库  
  • 不保证从库应用完这个事务的binlog  
  • 性能有一定的降低,响应时间会更长  
  • 网络异常或从库宕机,卡主主库,直到超时或从库恢复4)、主从复制--异步复制原理、半同步复制和并行复制原理比较

异步复制原理

半同步复制原理

事务在主库写完binlog后需要从库返回一个已接受,才放回给客户端;5.5集成到mysql,以插件的形式存在,需要单独安装确保事务提交后binlog至少传输到一个从库不保证从库应用完成这个事务的binlog性能有一定的降低网络
异常或从库宕机,卡主库,直到超时或从库恢复

并行复制mysql并行复制

  • 社区版5.6中新增  
  • 并行是指从库多线程apply binlog  
  • 库级别并行应用binlog,同一个库数据更改还是串行的(5.7版并行复制基于事务组)设置 set global slave_parallel_workers=10;设置sql线程数为10

原理
从库多线程 apply binlog 在社区5.6中新增库级别并行应用 binlog,同一个库数据更改还是串行的5.7版本并行复制基于事务组。

本作品采用《CC 协议》,转载必须注明作者和本文链接
讨论数量: 2
Summer

排版需要改进下哈

5年前 评论

@Summer 哇 竟然评论了 ,好的好的

5年前 评论

讨论应以学习和精进为目的。请勿发布不友善或者负能量的内容,与人为善,比聪明更重要!