Linux基础37 负载均衡, 产品与类型, 时间, nginx调度算法, nginx负载均衡状态
#注意:代理只能代理一台机器 nginx做代理,一个location可以做一个代理
当我们的Web服务器直接面向用户,往往要承载大量并发请求,单台服务器难以负荷,我使用多台Web服务器组成集群,
前端使用Nginx负载均衡,将请求分散的达到我们后端服务器集群中,实现负载的分发。那么会大大提升系统的吞吐率、请求性能、高容灾
往往我们接触的最多的是SLB(Server Load Balance)负载均衡,实现最多的也是SLB、那么SLB它的调度节点和服务节点通常是在一个地域里面。
那么它在这个小的逻辑地域里面决定了他对部分服务的实时性、响应性是非常好的。
所以说海量用户请求过来以后,它同样是请求调度节点,调度节点将用户的请求转发给后端对应的服务节点,服务节点处理完请求后再转发给调度节点,
调度节点最后响应给用户节点。这样也能实现一个均衡的作用,那么Nginx则是一个典型的SLB
负载均衡
负载
Load Balance
LB
SLB 阿里云负载均衡
LB 青云负载均衡
CLB 腾讯云负载均衡
ULB ucloud负载均衡
Nginx #在1.9版本之前只能做七层,1.9版本之后既能做七层,也能做四层负载均衡 Haproxy #既能做四层,也能做七层负载均衡 LVS #只能做四层负载均衡 # LVS是最快的负载均衡软件,其他两个软件需要将请求发送到服务再转发到后端,LVS不用到服务,它相当于将服务器变成了负载均衡,直接转发请求
#四层负载均衡(端口转发,不能带域名) 所谓四层负载均衡指的是OSI七层模型中的传输层,那么传输层Nginx已经支持TCP/IP的控制,所以只需要对客户端的请求进行TCP/IP协议的包转发就可以实现负载均衡,
那么它的好处是性能非常快、只需要底层进行应用处理,而不需要进行一些复杂的逻辑。 #七层负载均衡 七层负载均衡它是在应用层,那么它可以完成很多应用方面的协议请求,比如我们说的http应用的负载均衡,它可以实现http信息的改写、头信息的改写、
安全应用规则控制、URL匹配规则控制、以及装法、rewrite等等的规则,所以在应用层的服务里面,我们可以做的内容就更多,那么Nginx则是一个典型的七层负载均衡SLB #四层负载与七层负载区别 四层负载均衡数据包在底层就进行了分发,而七层负载均衡数据包则是在最顶层进行分发、由此可以看出,七层负载均衡效率没有四层负载均衡高。 但七层负载均衡更贴近于服务,如:http协议就是七层协议,我们可以用Nginx可以作会话保持,URL路径规则匹配、head头改写等等,这些是四层负载均衡无法实现的。 注意:四层负载均衡不识别域名,七层负载均衡识别域名(四层负载后还需要做一次七层负载把最后三网络层解开)
Nginx要实现负载均衡需要用到proxy_pass代理模块配置
Nginx负载均衡与Nginx代理不同地方在于,Nginx的一个location仅能代理一台服务器,
而Nginx负载均衡则是将客户端请求代理装法至一组upstream虚拟池
Syntax: upstream name { ... } Default: — Context: http # 配在http层 # 例: upstream backend { # 定义backend组 server backend1.example.com; server backend2.example.com; } server { location / { proxy_pass http://backend; # 代理的时候,写组的名字 } }
主机 | 外网ip | 内网ip | 身份 |
---|---|---|---|
lb01 | 10.0.0.4 | 172.16.1.4 | 负载均衡 |
web01 | 10.0.0.7 | 172.16.1.7 | web |
10.0.0.8 | 172.16.1.8 | web |
[root@web01 conf.d]# vim node.conf server { listen 80; server_name node.linux.com; location / { root /code/node; index index.html; } } [root@web01 conf.d]# mkdir /code/node [root@web01 conf.d]# echo "我是web01..." > /code/node/index.html [root@web01 conf.d]# systemctl restart nginx
[root@web02 conf.d]# vim node.conf server { listen 80; server_name node.linux.com; location / { root /code/node; index index.html; } } [root@web02 conf.d]# mkdir /code/node [root@web02 conf.d]# echo "我是web02..." > /code/node/index.html [root@web02 conf.d]# systemctl restart nginx
[root@lb01 conf.d]# vim node_proxy.conf upstream node { server 172.16.1.7:80; # 默认80端口可以不写 server 172.16.1.8:80; } server { listen 80; server_name node.linux.com; location / { proxy_pass http://node; include proxy_params; } } ------------------------------------------- # 检查include文件是否存在 [root@lb01 conf.d]# ll /etc/nginx/proxy_params -rw-r--r-- 1 root root 275 Aug 27 01:06 /etc/nginx/proxy_params [root@lb01 conf.d]# systemctl restart nginx
如果后台服务连接超时,Nginx本身是有机制的,如果出现一个节点down掉的时候,Nginx会根据你具体负载均衡的设置,将请求转移到其他的节点上,
但是,如果后台服务连接没有down掉,但是返回错误异常码了如:504、502、500,这个时候你需要加一个负载均衡的设置,如下:
proxy_next_upstream http_500 | http_502 | http_503 |http_504 | http_404;意思是,当其中一台返回错误码404,500...等错误时,
可以分配到下一台服务器程序继续处理,提高平台访问成功率。
server { listen 80; server_name node.linux.com; location / { proxy_pass http://node; proxy_next_upstream error timeout http_500 http_502 http_503 http_504; } }
调度算法 | 概述 |
---|---|
轮询 | 按时间顺序逐一分配到不同的后端服务器(默认) |
weight | 加权轮询,weight值越大,分配到的访问几率越高 |
ip_hash | 每个请求按访问IP的hash结果分配,这样来自同一IP的固定访问一个后端服务器 |
url_hash | 按照访问URL的hash结果来分配请求,是每一个URL定向到同一个后端服务器 |
least_conn |
|
upstream node { server 172.16.1.7:80; server 172.16.1.8:80; }
# 访问根据配置的权重比例进行分配 upstream node { server 172.16.1.7:80 weight=5; # weight设置权重 server 172.16.1.8:80 weight=1; }
# 根据访问的来源IP分配至同一台服务器 upstream node { server 172.16.1.7:80; server 172.16.1.8:80; ip_hash; } # 经常使用这种方式进行会话保持
状态 | 概述 |
---|---|
down | 当前的server暂时不参与负载均衡 |
backup | 预留的备份服务器 |
max_fails | 允许请求失败的次数 |
fail_timeout | 经过max_fails失败后,服务暂停时间 |
max_conns | 限制最大的接收连接数 |
1.down状态配置测试
upstream node { # 不参与负载均衡任何调度,一般停机维护或者上线的时候使用 server 172.16.1.7:80 down; server 172.16.1.8:80; }
upstream node { server 172.16.1.7:80; server 172.16.1.8:80 backup; # 备用,当上面一个停了就用这个备用的 }
# 一般 max_fails和fail_timeout一起使用 upstream node { server 172.16.1.7:80; server 172.16.1.8:80 max_fails=3 fail_timeout=10;#访问如果失败,等10秒再访问(这段时间去找上面服务访问),最多失败3次,超过了不能再连接 }
upstream node { server 172.16.1.7:80; server 172.16.1.8:80 max_conns=120; }