公司网站开发找哪家,建设文明网站包括哪些内容,wordpress问答插件哪个好,网站掉权重是怎么回事文章目录 一、MySQL主从复制1、配置主从复制的原因#xff1a;2、主从复制原理1、 MySQL的复制类型2、 MySQL主从复制的工作过程;1、 MySQL主从复制延迟2、优化方案#xff1a;3、 MySQL 有几种同步方式#xff1a; 三种4、异步复制#xff08;Async Replication#xff0… 文章目录 一、MySQL主从复制1、配置主从复制的原因2、主从复制原理1、 MySQL的复制类型2、 MySQL主从复制的工作过程;1、 MySQL主从复制延迟2、优化方案3、 MySQL 有几种同步方式 三种4、异步复制Async Replication5、同步复制Sync Replication6、半同步复制Semi-Sync Replication7、增强半同步复制lossless Semi-Sync Replication、无损复制 3、 Mysql应用场景 二、读写分离1.概述2.配置读写分离的原因3.应用场景4.主从复制与读写分离的关系5.原理6.企业 使用MySQL 读写分离场景1 、基于程序代码内部实现2 基于中间代理层实现 三.实验1.主从复制1mysql主从服务器时间同步2配置Master服务器3配置两台Slave服务器4测试 2.配置主从读写分离Amoeba1安装jdk1.6环境2安装配置amoeba服务 一、MySQL主从复制
1、配置主从复制的原因
在企业应用中成熟的业务通常数据量都比较大 单台MySQL在安全性、 高可用性和高并发方面都无法满足实际的需求 配置多台主从数据库服务器以实现读写分离
2、主从复制原理
1、 MySQL的复制类型
基于语句的复制(STATEMENT, MySQL默认类型)基于行的复制(ROW)混合类型的复制(MIXED)
2、 MySQL主从复制的工作过程;
两日志、三线程 1在每个事务更新数据完成之前Master 在二进制日志Binary log记录这些改变。写入二进制日志完成后Master 通知存储引擎提交事务。 2Slave 将 Master 的复制到其中继日志Relay log。首先slave 开始一个工作线程I/OI/O线程在 Master 上打开一个普通的连接然后开始 Binlog dump process。Binlog dump process 从 Master 的二进制日志中读取事件如果已经跟上 Master它会睡眠并等待 Master 产生新的事件I/O线程将这些事件写入中继日志。 3SQL slave threadSQL从线程处理该过程的最后一步SQL线程从中继日志读取事件并重放其中的事件而更新 Slave 数据使其与 Master 中的数据一致只要该线程与 I/O 线程保持一致中继日志通常会位于 OS 缓存中所以中继日志的开销很小。 复制过程有一个很重要的限制即复制在 Slave 上是串行化的也就是说 Master 上的并行更新操作不能在 Slave 上并行操作。
1、 MySQL主从复制延迟
1、master服务器高并发形成大量事务 2、网络延迟 3、主从硬件设备导致cpu主频、内存io、硬盘io等 4、本来就不是同步复制、而是异步复制
2、优化方案
从库优化Mysql参数。比如增大innodb_buffer_pool_size让更多操作在Mysql内存中完成减少磁盘操作。 从库使用高性能主机。包括cpu强悍、内存加大。避免使用虚拟云主机使用物理主机这样提升了i/o方面性。 从库使用SSD磁盘 网络优化避免跨机房实现同步
问题解决方法 半同步复制- 解决数据丢失的问题 并行复制—解决从库复制延迟的问题
3、 MySQL 有几种同步方式 三种
1、异步复制Async Replication 2、同步复制sync Replication 3、半同步复制Async Replication 4、增强半同步复制lossless Semi-Sync Replication、无损复制
4、异步复制Async Replication
主库将更新写入Binlog日志文件后不需要等待数据更新是否已经复制到从库中就可以继续处理更多的请求。Master将事件写入binlog但并不知道Slave是否或何时已经接收且已处理。在异步复制的机制的情况下如果Master宕机事务在Master上已提交但很可能这些事务没有传到任何的Slave上。假设有Master-Salve故障转移的机制此时Slave也可能会丢失事务。MySQL复制默认是异步复制异步复制提供了最佳性能。
5、同步复制Sync Replication
主库将更新写入Binlog日志文件后需要等待数据更新已经复制到从库中并且已经在从库执行成功然后才能返回继续处理其它的请求。同步复制提供了最佳安全性保证数据安全数据不会丢失但对性能有一定的影响。
6、半同步复制Semi-Sync Replication
主库提交更新写入二进制日志文件后等待数据更新写入了从服务器中继日志中然后才能再继续处理其它请求。该功能确保至少有1个从库接收完主库传递过来的binlog内容已经写入到自己的relay log里面了才会通知主库上面的等待线程该操作完毕。 半同步复制是最佳安全性与最佳性能之间的一个折中。 MySQL 5.5版本之后引入了半同步复制功能主从服务器必须安装半同步复制插件才能开启该复制功能。如果等待超时超过rpl_semi_sync_master_timeout参数设置时间默认值为10000表示10秒则关闭半同步复制并自动转换为异步复制模式。当master dump线程发送完一个事务的所有事件之后如果在rpl_semi_sync_master_timeout内收到了从库的响应则主从又重新恢复为增强半同步复制。 ACK (Acknowledge character即是确认字符。
7、增强半同步复制lossless Semi-Sync Replication、无损复制
增强半同步是在MySQL 5.7引入其实半同步可以看成是一个过渡功能因为默认的配置就是增强半同步所以大家一般说的半同步复制其实就是增强的半同步复制也就是无损复制。 增强半同步和半同步不同的是等待ACK时间不同rpl_semi_sync_master_wait_point AFTER_SYNC默认 半同步的问题是因为等待ACK的点是Commit之后此时Master已经完成数据变更用户已经可以看到最新数据当Binlog还未同步到Slave时发生主从切换那么此时从库是没有这个最新数据的用户看到的是老数据。 增强半同步将等待ACK的点放在提交Commit之前此时数据还未被提交外界看不到数据变更此时如果发送主从切换新库依然还是老数据不存在数据不一致的问题。
3、 Mysql应用场景
mysql 数据库 主要的性能是读和写一般场景来说读请求更多。 根据主从复制可以演变成读写分离因为读写分离基于主从复制使用读写分离从而解决高并发的问题。
mysql架构演变的方向 1、单台mysql有单点故障 2、集群—》 主从复制 3、主从复制渡河写的压力不均衡 4、读写分离 5、读写分离的基础是主从复制 6、mysql的高可用架构MHAmaster HA高可用 MGR MMM
二、读写分离
1.概述
读写分离基本的原理是让主数据库处理事务性增、改、删操作INSERT、UPDATE、DELETE而从数据库处理SELECT查询操作。数据库复制被用来把事务性操作导致的变更同步到集群中的从数据库。
2.配置读写分离的原因
因为数据库的“写”写10000条数据可能要3分钟操作是比较耗时的。 但是数据库的“读”读10000条数据可能只要5秒钟。 所以读写分离解决的是数据库的写入影响了查询的效率。
3.应用场景
数据库不一定要读写分离如果程序使用数据库较多时而更新少查询多的情况下会考虑使用。利用数据库主从同步再通过读写分离可以分担数据库压力提高性能。
4.主从复制与读写分离的关系
在实际的生产环境中对数据库的读和写都在同一个数据库服务器中是不能满足实际需求的。无论是在安全性、高可用性还是高并发等各个方面都是完全不能满足实际需求的。因此通过主从复制的方式来同步数据再通过读写分离来提升数据库的并发负载能力。有点类似于rsync但是不同的是rsync是对磁盘文件做备份而mysql主从复制是对数据库中的数据、语句做备份。
5.原理
读写分离就是只在主服务器上写只在从服务器上读。基本的原理是让主数据库处理事务性操作而从数据库处理 select 查询。数据库复制被用来把主数据库上事务性操作导致的变更同步到集群中的从数据库。
6.企业 使用MySQL 读写分离场景
目前较为常见的 MySQL 读写分离分为以下两种
1 、基于程序代码内部实现
在代码中根据 select、insert 进行路由分类这类方法也是目前生产环境应用最广泛的。 优点是性能较好因为在程序代码中实现不需要增加额外的设备为硬件开支缺点是需要开发人员来实现运维人员无从下手。 但是并不是所有的应用都适合在程序代码中实现读写分离像一些大型复杂的Java应用如果在程序代码中实现读写分离对代码改动就较大。
2 基于中间代理层实现
代理一般位于客户端和服务器之间代理服务器接到客户端请求后通过判断后转发到后端数据库有以下代表性程序。 1MySQL-Proxy。MySQL-Proxy 为 MySQL 开源项目通过其自带的 lua 脚本进行SQL 判断。 2Atlas。是由奇虎360的Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它是在mysql-proxy 0.8.2版本的基础上对其进行了优化增加了一些新的功能特性。360内部使用Atlas运行的mysql业务每天承载的读写请求数达几十亿条。支持事物以及存储过程。 3Amoeba。由陈思儒开发作者曾就职于阿里巴巴。该程序由Java语言进行开发阿里巴巴将其用于生产环境。但是它不支持事务和存储过程。
由于使用MySQL Proxy 需要写大量的Lua脚本这些Lua并不是现成的而是需要自己去写。这对于并不熟悉MySQL Proxy 内置变量和MySQL Protocol 的人来说是非常困难的。 Amoeba是一个非常容易使用、可移植性非常强的软件。因此它在生产环境中被广泛应用于数据库的代理层。
三.实验
实验准备
Master服务器192.168.116.50
Slave1服务器192.168.116.20
Slave2服务器192.168.116.40
Amoeba服务器192.168.116.30
客户端192.168.116.1001.主从复制
1mysql主从服务器时间同步
Master服务器配置
yum install -y ntp
vim /etc/ntp.conf
#设置本地为时钟源116.0为我局域网网段
server 127.127.116.0
#设置时间层级为8限制在15内
fudge 127.127.116.0 stratum 8
service ntpd start从服务器设置
yum install -y ntp ntpdateservice ntpd start#指定时钟源地址
/usr/sbin/ntpdate 192.168.116.50#定时同步
crontab -e
*/30 * * * * /usr/sbin/ntpdate 192.168.116.502配置Master服务器
#修改配置文件
vim /etc/my.cnf
[mysqld]
...server-id1
log_binmysql-bin
binlog_formatMIXED
log-slave-updatestrue
expire_logs_days10
max_binlog_size500M#重启服务使配置生效
systemctl restart mysqld.service#给从服务授权
mysql -uroot -p123123
GRANT REPLICATION SLAVE ON *.* TO myslave192.168.116.% IDENTIFIED BY 123123;
FLUSH PRIVILEGES;
#查看二进制日志文件和pos节点
show master status;3配置两台Slave服务器
#修改配置文件
vim /etc/my.cnf
server-id 2
relay-log relay-log-bin
relay-log-index slave-relay-bin.index
relay_log_recovery 1#重启服务使配置生效
systemctl restart mysqld.service#登入数据库做salve配置
mysql -uroot -p123123change master to master_host192.168.116.50,master_usermyslave,master_password123123,master_log_filemysql-bin.000007,master_log_pos3464;#开启slave和查看状态
start slave;show slave status\G4测试
在主服务器创建库和表 查看两台slave服务器存在说明同步成功
2.配置主从读写分离Amoeba
1安装jdk1.6环境
#首先把jdk-6u14-linux-x64.bin放在/usr/local/下
chmod x /usr/local/jdk-6u14-linux-x64.bin#执行安装
./jdk-6u14-linux-x64.bin#添加环境变量并启用文件
vim /etc/profile
export JAVA_HOME/usr/local/jdk1.6.0_14/
export JRE_HOME$JAVA_HOME/jre
export CLASSPATH.:$JAVA_HOME/lib:$JRE_HOME/lib
export PATH$JAVA_HOME/bin:$JRE_HOME/bin:$PATHsource /etc/profile#查看java环境
java -version2安装配置amoeba服务
#先将amoeba-mysql-binary-2.2.0.tar.gz压缩包放在/opt下
mkdir /usr/local/amoeba
cd /opt
tar xf amoeba-mysql-binary-2.2.0.tar.gz -C /usr/local/amoeba#添加amoeba环境变量在上一步的java环境变量的基础上修改
vim /etc/profile
export JAVA_HOME/usr/local/jdk1.6.0_14/
export JRE_HOME$JAVA_HOME/jre
export CLASSPATH.:$JAVA_HOME/lib:$JRE_HOME/lib
export AMOEBA_HOME/usr/local/amoeba
export PATH$JAVA_HOME/bin:$JRE_HOME/bin:$AMOEBA_HOME/bin:$PATHsource /etc/profile先在所有主从数据库中授权amoeba用户访问
mysql -uroot -p123123
grant all on *.* to amoeba192.168.116.% identified by 123123;修改服务器配置文件/usr/local/amoeba/conf/dbServers.xml 启动服务并查看是否开启成功
/usr/local/amoeba/bin/amoeba startnetstat -nltp |grep 8066
