海南通信建设有限公司官方网站,企业宣传片制作拍摄电话,天眼查全国企业查询,wordpress添加icon文件夹当前大多数的互联网系统都使用了服务器集群技术#xff0c;集群是将相同服务部署在多台服务器上构成一个集群整体对外提供服务#xff0c;这些集群可以是 Web 应用服务器集群#xff0c;也可以是数据库服务器集群#xff0c;还可以是分布式缓存服务器集群等等。 在实际应用…当前大多数的互联网系统都使用了服务器集群技术集群是将相同服务部署在多台服务器上构成一个集群整体对外提供服务这些集群可以是 Web 应用服务器集群也可以是数据库服务器集群还可以是分布式缓存服务器集群等等。 在实际应用中在 Web 服务器集群之前总会有一台负载均衡服务器负载均衡设备的任务就是作为 Web 服务器流量的入口挑选最合适的一台 Web 服务器将客户端的请求转发给它处理实现客户端到真实服务端的透明转发。 最近几年很火的「云计算」以及分布式架构本质上也是将后端服务器作为计算资源、存储资源由某台管理服务器封装成一个服务对外提供客户端不需要关心真正提供服务的是哪台机器在它看来就好像它面对的是一台拥有近乎无限能力的服务器而本质上真正提供服务的是后端的集群。 LVS、Nginx、HAProxy 是目前使用最广泛的三种软件负载均衡软件。 一般对负载均衡的使用是随着网站规模的提升根据不同的阶段来使用不同的技术。具体的应用需求还得具体分析如果是中小型的 Web 应用比如日 PV 小于1000万用 Nginx 就完全可以了如果机器不少可以用 DNS 轮询LVS 所耗费的机器还是比较多的大型网站或重要的服务且服务器比较多时可以考虑用 LVS。 目前关于网站架构一般比较合理流行的架构方案Web 前端采用 Nginx/HAProxyKeepalived 作负载均衡器后端采用 MySQ L数据库一主多从和读写分离采用 LVSKeepalived 的架构
LVS
LVS 是 Linux Virtual Server 的简称也就是 Linux 虚拟服务器。现在 LVS 已经是 Linux 标准内核的一部分从 Linux2.4 内核以后已经完全内置了 LVS 的各个功能模块无需给内核打任何补丁可以直接使用 LVS 提供的各种功能。 LVS 自从1998年开始发展到现在已经是一个比较成熟的技术项目了。
LVS 的体系结构 LVS 架设的服务器集群系统有三个部分组成 (1) 最前端的负载均衡层用 Load Balancer 表示 (2) 中间的服务器集群层用 Server Array 表示 (3) 最底端的数据共享存储层用 Shared Storage 表示
LVS 负载均衡机制
LVS 不像 HAProxy 等七层软负载面向的是 HTTP 包所以七层负载可以做的 URL 解析等工作LVS 无法完成。 LVS 是四层负载均衡也就是说建立在 OSI 模型的第四层——传输层之上传输层上有我们熟悉的 TCP/UDPLVS 支持 TCP/UDP 的负载均衡。因为 LVS 是四层负载均衡因此它相对于其它高层负载均衡的解决办法比如 DNS 域名轮流解析、应用层负载的调度、客户端的调度等它的效率是非常高的。 所谓四层负载均衡 也就是主要通过报文中的目标地址和端口。七层负载均衡 也称为“内容交换”也就是主要通过报文中的真正有意义的应用层内容。 LVS 的转发主要通过修改 IP 地址NAT 模式分为源地址修改 SNAT 和目标地址修改 DNAT、修改目标 MACDR 模式来实现。
NAT 模式网络地址转换
NATNetwork Address Translation是一种外网和内网地址映射的技术。 NAT 模式下网络数据报的进出都要经过 LVS 的处理。LVS 需要作为 RS真实服务器的网关。 当包到达 LVS 时LVS 做目标地址转换DNAT将目标 IP 改为 RS 的 IP。RS 接收到包以后仿佛是客户端直接发给它的一样。RS 处理完返回响应时源 IP 是 RS IP目标 IP 是客户端的 IP。这时 RS 的包通过网关LVS中转LVS 会做源地址转换SNAT将包的源地址改为 VIP这样这个包对客户端看起来就仿佛是 LVS 直接返回给它的。
DR 模式直接路由
DR 模式下需要 LVS 和 RS 集群绑定同一个 VIPRS 通过将 VIP 绑定在 loopback 实现但与 NAT 的不同点在于请求由 LVS 接受由真实提供服务的服务器RealServerRS直接返回给用户返回的时候不经过 LVS。 详细来看一个请求过来时LVS 只需要将网络帧的 MAC 地址修改为某一台 RS 的 MAC该包就会被转发到相应的 RS 处理注意此时的源 IP 和目标 IP 都没变LVS 只是做了一下移花接木。RS 收到 LVS 转发来的包时链路层发现 MAC 是自己的到上面的网络层发现 IP 也是自己的于是这个包被合法地接受RS 感知不到前面有 LVS 的存在。而当 RS 返回响应时只要直接向源 IP即用户的 IP返回即可不再经过 LVS。 DR 负载均衡模式数据分发过程中不修改 IP 地址只修改 mac 地址由于实际处理请求的真实物理 IP 地址和数据请求目的 IP 地址一致所以不需要通过负载均衡服务器进行地址转换可将响应数据包直接返回给用户浏览器避免负载均衡服务器网卡带宽成为瓶颈。因此DR 模式具有较好的性能也是目前大型网站使用最广泛的一种负载均衡手段。
LVS 的优点
抗负载能力强、是工作在传输层上仅作分发之用没有流量的产生这个特点也决定了它在负载均衡软件里的性能最强的对内存和 cpu 资源消耗比较低。配置性比较低这是一个缺点也是一个优点因为没有可太多配置的东西所以并不需要太多接触大大减少了人为出错的几率。工作稳定因为其本身抗负载能力很强自身有完整的双机热备方案如 LVS Keepalived。无流量LVS 只分发请求而流量并不从它本身出去这点保证了均衡器 IO 的性能不会受到大流量的影响。应用范围比较广因为 LVS 工作在传输层所以它几乎可以对所有应用做负载均衡包括 http、数据库、在线聊天室等等。
LVS 的缺点
软件本身不支持正则表达式处理不能做动静分离而现在许多网站在这方面都有较强的需求这个是 Nginx、HAProxy Keepalived 的优势所在。如果是网站应用比较庞大的话LVS/DR Keepalived 实施起来就比较复杂了相对而言Nginx / HAProxy Keepalived 就简单多了。
Nginx
Nginx 是一个强大的 Web 服务器软件用于处理高并发的 HTTP 请求和作为反向代理服务器做负载均衡。具有高性能、轻量级、内存消耗少强大的负载均衡能力等优势。
Nignx 的架构设计
相对于传统基于进程或线程的模型Apache就采用这种模型在处理并发连接时会为每一个连接建立一个单独的进程或线程且在网络或者输入/输出操作时阻塞。这将导致内存和 CPU 的大量消耗因为新起一个单独的进程或线程需要准备新的运行时环境包括堆和栈内存的分配以及新的执行上下文当然这些也会导致多余的 CPU 开销。最终会由于过多的上下文切换而导致服务器性能变差。 反过来Nginx 的架构设计是采用模块化的、基于事件驱动、异步、单线程且非阻塞。 Nginx 大量使用多路复用和事件通知Nginx 启动以后会在系统中以 daemon 的方式在后台运行其中包括一个 master 进程n(n1) 个 worker 进程。所有的进程都是单线程即只有一个主线程的且进程间通信主要使用共享内存的方式。 其中master 进程用于接收来自外界的信号并给 worker 进程发送信号同时监控 worker 进程的工作状态。worker 进程则是外部请求真正的处理者每个 worker 请求相互独立且平等的竞争来自客户端的请求。请求只能在一个 worker 进程中被处理且一个 worker 进程只有一个主线程所以同时只能处理一个请求。原理同 Netty 很像
Nginx 负载均衡
Nginx 负载均衡主要是对七层网络通信模型中的第七层应用层上的 http、https 进行支持。 Nginx 是以反向代理的方式进行负载均衡的。反向代理Reverse Proxy方式是指以代理服务器来接受 Internet 上的连接请求然后将请求转发给内部网络上的服务器并将从服务器上得到的结果返回给 Internet 上请求连接的客户端此时代理服务器对外就表现为一个服务器。 Nginx 实现负载均衡的分配策略有很多Nginx 的 upstream 目前支持以下几种方式
轮询默认每个请求按时间顺序逐一分配到不同的后端服务器如果后端服务器 down 掉能自动剔除。weight指定轮询几率weight 和访问比率成正比用于后端服务器性能不均的情况。ip_hash每个请求按访问 ip 的 hash 结果分配这样每个访客固定访问一个后端服务器可以解决 session 的问题。fair第三方按后端服务器的响应时间来分配请求响应时间短的优先分配。url_hash第三方按访问 url 的 hash 结果来分配请求使每个 url 定向到同一个后端服务器后端服务器为缓存时比较有效。
Nginx 的优点
跨平台Nginx 可以在大多数 Unix like OS编译运行而且也有 Windows 的移植版本配置异常简单非常容易上手。配置风格跟程序开发一样神一般的配置非阻塞、高并发连接官方测试能够支撑5万并发连接在实际生产环境中跑到23万并发连接数事件驱动通信机制采用 epoll 模型支持更大的并发连接Master/Worker 结构一个 master 进程生成一个或多个 worker 进程内存消耗小处理大并发的请求内存消耗非常小。在3万并发连接下开启的10个 Nginx 进程才消耗150M 内存15M*10150M内置的健康检查功能如果 Nginx 代理的后端的某台 Web 服务器宕机了不会影响前端访问节省带宽支持 GZIP 压缩可以添加浏览器本地缓存的 Header 头稳定性高用于反向代理宕机的概率微乎其微
Nginx 的缺点
Nginx 仅能支 持http、https 和 Email 协议这样就在适用范围上面小些这个是它的缺点对后端服务器的健康检查只支持通过端口来检测不支持通过 ur l来检测。不支持 Session 的直接保持但能通过 ip_hash 来解决
HAProxy
HAProxy 支持两种代理模式 TCP四层和HTTP七层也是支持虚拟主机的。 HAProxy 的优点能够补充 Nginx 的一些缺点比如支持 Session 的保持Cookie 的引导同时支持通过获取指定的 url 来检测后端服务器的状态。 HAProxy 跟 LVS 类似本身就只是一款负载均衡软件单纯从效率上来讲 HAProxy 会比 Nginx 有更出色的负载均衡速度在并发处理上也是优于 Nginx 的。 HAProxy 支持 TCP 协议的负载均衡转发可以对 MySQL 读进行负载均衡对后端的 MySQL 节点进行检测和负载均衡大家可以用 LVSKeepalived 对 MySQL 主从做负载均衡。 HAProxy 负载均衡策略非常多Round-robin轮循、Weight-round-robin带权轮循、source原地址保持、RI请求URL、rdp-cookie根据cookie。
Reference
钟武 https://zhongwuzw.github.io 王晨纯 http://www.importnew.com/11229.html 周旭龙 http://edisonchou.cnblogs.com
