Nginx:max_fail和fail_timeout没那么简单

2024-04-26 23:44
文章标签 简单 nginx fail max timeout

本文主要是介绍Nginx:max_fail和fail_timeout没那么简单,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

前言

今天遇到了一个nginx的问题,稍微深入了解了一下nginx的原生健康检测机制,就在那一刻才发现自己太过迷恋tengine的http_upstream_check_module了,对原生的健康检测有误解。

我一直认为:原生的nginx只能做tcp检测。

我一直认为:原生的nginx在检测后端服务失败后,就会将后端节点踢掉。

我一直认为:fail_timeout是每次检测的超时时间,max_fail是检测的次数。

全NM是误解,C了。

max_fail和fail_timeout

理解

官方文档的位置 https://nginx.org/en/docs/http/ngx_http_upstream_module.html

#样例:upstream backend {server backend1.example.com weight=5;server 127.0.0.1:8080       max_fails=3 fail_timeout=30s;server unix:/tmp/backend3;server backup1.example.com  backup;
}

max_fails:是失败次数;

fail_timeout:  fail_timeout时间内如果失败了max_fails次,就会将节点标记为不可用。不可用的时间为fail_timeout 。 这就轮回起来了。

当max_fails为0的时候,就相当于关闭健康检测了。

怎么判断失败呢

有一个参数 proxy_next_upstream ,他的默认值是error和timeout,  也就是说当建立连接的时候超时或者是报错,就认为这个节点失败的。

我们此处可以看到也有一些http的状态检测的手段,所以说原生的健康检测也能做七层的检测。

超时时间

既然超时算是失败,那么超时时间是多少呢?这个就比较讲究了。

由proxy_connect_timeout(默认60s)和 net.ipv4.tcp_syn_retries (操作系统的,默认是6)这两个参数中较小的决定。

net.ipv4.tcp_syn_retries是当upstream中的server不返回ack的时候,重传syn的次数,默认是6次,6次的耗时是:1s,2s,4s,8s,16s,32s。 然后64s 后尝试另一个server。这样加起来差不多2m左右。

我们最好使用proxy_connect_timeout和proxy_send_timeout(这个我目前还不确定,会不会增加失败次数)来决定超时时间。

这两个值我觉得设置比较小就可以,因为后端服务如果在几秒内还没有接收请求或者建立连接,说明它已经很忙了,我们就可以尝试其他的server,或者返回给前端 502(前端可以设置一些策略,比如重试+按钮转圈+美好的提示等)来提供客户的体验,这样比等着好,因为用户越等越急,可能会暴躁的连击几下按钮,服务就更慢了。

fail_timeout要根据proxy_connect_timeout 和你的服务性能来配置。

如果你的服务平均响应时长是30s,而你的proxy_connect_timeout是5s,那么你接收到的响应肯定都是504 。

如果proxy_connect_timeout是10s,fail_timeout设置了一个1s, 那么这个节点永远不会被标记为不可用,当服务hang住的时候,你每次请求都要等待proxy_connect_timeout后才能尝试下一个server。

proxy_next_upstream_timeout 

这个参数意思是:在上一个server失败了以后,需要等待proxy_next_upstream_timeout时间后,再尝试下一个server。

一个节点的情况

当upstream下只配置一个server的时候,这个server不会被标记为不可用,如果这个节点hang住了,你每次请求都要等待超时。 当你的proxy_connect_timeout比较大的时候,就更悲催了。别问我是怎么知道的。。。555....

http_upstream_check_module

# http check
upstream student-service-api {server 172.26.34.101:9050;check interval=3000 rise=2 fall=5 timeout=1000 type=http;check_http_send "HEAD /health/check/status HTTP/1.0\r\n\r\n";check_http_expect_alive http_2xx http_3xx;
}
upstream  nerf {server 172.16.0.249:8091 weight=1;server 172.16.1.246:9019 weight=4;check interval=1000 rise=2 fall=5 timeout=10000 type=tcp;
}

这是tengine的健康检测模块,他和nginx原生额最大区别就是,他是主动检测的。所以,他不会出现上面一个节点不可能用时,仍然要等待超时的问题。再就是节点不可用的时候,他会打印error l日志,对于用户来说比较友好。

如何模拟服务hang的情况

一个比较无脑的方法:

# 记得 net.ipv4.ip_forward = 1
docker run -itd docker.io/centos:7 -p 10811:10811 bash

然后进入容器:

python -m SimpleHTTPServer 10811

然后回到服务器上

iptables -F

然后10811服务就会hang住了。

如何模拟500报错的服务的情况

# 记得 net.ipv4.ip_forward = 1
docker run -itd docker.io/centos:7 -p 10811:10811 bash

然后进入容器,创建一个python脚本

from SimpleHTTPServer import SimpleHTTPRequestHandler
import BaseHTTPServer
import sysclass CustomHTTPRequestHandler(SimpleHTTPRequestHandler):def do_GET(self):if self.path == '/':self.send_response(500)self.end_headers()self.wfile.write('Internal Server Error')else:super(CustomHTTPRequestHandler, self).do_GET()def run(server_class=BaseHTTPServer.HTTPServer, handler_class=CustomHTTPRequestHandler):server_address = ('', 10811)httpd = server_class(server_address, handler_class)print 'Starting httpd on port %d...' % server_address[1]httpd.serve_forever()if __name__ == '__main__':run()

然后执行脚本,就可以了。

##

祝你好运

# 有问题可以进群聊聊

614809646  qq群->数字人和tts,运维、开发等等

这篇关于Nginx:max_fail和fail_timeout没那么简单的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/938990

相关文章

前端如何通过nginx访问本地端口

《前端如何通过nginx访问本地端口》:本文主要介绍前端如何通过nginx访问本地端口的问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、nginx安装1、下载(1)下载地址(2)系统选择(3)版本选择2、安装部署(1)解压(2)配置文件修改(3)启动(4)

Nginx 重写与重定向配置方法

《Nginx重写与重定向配置方法》Nginx重写与重定向区别:重写修改路径(客户端无感知),重定向跳转新URL(客户端感知),try_files检查文件/目录存在性,return301直接返回永久重... 目录一.try_files指令二.return指令三.rewrite指令区分重写与重定向重写: 请求

Nginx 配置跨域的实现及常见问题解决

《Nginx配置跨域的实现及常见问题解决》本文主要介绍了Nginx配置跨域的实现及常见问题解决,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来... 目录1. 跨域1.1 同源策略1.2 跨域资源共享(CORS)2. Nginx 配置跨域的场景2.1

nginx启动命令和默认配置文件的使用

《nginx启动命令和默认配置文件的使用》:本文主要介绍nginx启动命令和默认配置文件的使用,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录常见命令nginx.conf配置文件location匹配规则图片服务器总结常见命令# 默认配置文件启动./nginx

Windows的CMD窗口如何查看并杀死nginx进程

《Windows的CMD窗口如何查看并杀死nginx进程》:本文主要介绍Windows的CMD窗口如何查看并杀死nginx进程问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地... 目录Windows的CMD窗口查看并杀死nginx进程开启nginx查看nginx进程停止nginx服务

基于Python实现一个简单的题库与在线考试系统

《基于Python实现一个简单的题库与在线考试系统》在当今信息化教育时代,在线学习与考试系统已成为教育技术领域的重要组成部分,本文就来介绍一下如何使用Python和PyQt5框架开发一个名为白泽题库系... 目录概述功能特点界面展示系统架构设计类结构图Excel题库填写格式模板题库题目填写格式表核心数据结构

Nginx Location映射规则总结归纳与最佳实践

《NginxLocation映射规则总结归纳与最佳实践》Nginx的location指令是配置请求路由的核心机制,其匹配规则直接影响请求的处理流程,下面给大家介绍NginxLocation映射规则... 目录一、Location匹配规则与优先级1. 匹配模式2. 优先级顺序3. 匹配示例二、Proxy_pa

C/C++ chrono简单使用场景示例详解

《C/C++chrono简单使用场景示例详解》:本文主要介绍C/C++chrono简单使用场景示例详解,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友... 目录chrono使用场景举例1 输出格式化字符串chrono使用场景China编程举例1 输出格式化字符串示

Windows 系统下 Nginx 的配置步骤详解

《Windows系统下Nginx的配置步骤详解》Nginx是一款功能强大的软件,在互联网领域有广泛应用,简单来说,它就像一个聪明的交通指挥员,能让网站运行得更高效、更稳定,:本文主要介绍W... 目录一、为什么要用 Nginx二、Windows 系统下 Nginx 的配置步骤1. 下载 Nginx2. 解压

解决mysql插入数据锁等待超时报错:Lock wait timeout exceeded;try restarting transaction

《解决mysql插入数据锁等待超时报错:Lockwaittimeoutexceeded;tryrestartingtransaction》:本文主要介绍解决mysql插入数据锁等待超时报... 目录报错信息解决办法1、数据库中执行如下sql2、再到 INNODB_TRX 事务表中查看总结报错信息Lock