Nginx之upstream被动式重试机制解读z

电玩女神 2023-10-16 13:47 10阅读 0赞

**目录**

基本介绍

默认错误

选择定义错误

指令配置

proxy\_next\_upstream

proxy\_next\_upstream\_timeout

proxy\_next\_upstream\_tries

重试限制方式

--------------------

### 基本介绍 ###

我们使用Nginx通过反向代理做负载均衡时，如果被代理的其中一个服务发生错误或者超时的时候，通常希望Nginx自动重试其他的服务，从而实现服务的高可用性。实际上Nginx本身默认会有错误重试机制，并且可以通过`proxy_next_upstream`来自定义配置。

Nginx 通过 `proxy_next_upstream` 参数来定义什么情况下会被认为是 fails，从而触发失败重试机制。

fails 可以分成两类：

1.  **默认错误**，包括 error、timeout
2.  **选择定义错误**，包含 invalid\_header 以及各种异常 http 状态码错误等

#### 默认错误 ####

出现 `error` 的场景，常见的是上游服务器的服务重启、停止，或者异常崩溃导致的无法提供正常服务。而 `timeout` 的情况，就是代理请求过程中达到对应的超时配置，主要包括了：

*  `proxy_connect_timeout`，建立三次握手的时间
 *  `proxy_read_timeout`，建立连接后，等待上游服务器响应以及处理请求的时间
 *  `proxy_send_timeout`，数据回传的间隔时间（注意不是数据发送耗时）

#### **选择定义错误** ####

异常状态码部分（就是 4xx、5xx 错误）。上游服务器返回空响应或者非法响应头

> **invalid\_header**: a server returned an empty or invalid response;

> 其默认值是`proxy_next_upstream error timeout`，即发生网络错误以及超时，才会重试其他服务器。默认情况下服务返回500状态码是不会重试的

### 指令配置 ###

#### proxy\_next\_upstream ####

设置当连接upstream服务器集群中的某个服务器第一次失败时，指定在哪些情况下将请求传递到下一个服务器

*  error \# 与服务器建立连接，向其传递请求或读取响应头时发生错误;
 *  timeout \# 在与服务器建立连接，向其传递请求或读取响应头时发生超时;
 *  invalid\_header \# 服务器返回空的或无效的响应;
 *  http\_500 \# 服务器返回代码为500的响应;
 *  http\_502 \# 服务器返回代码为502的响应;
 *  http\_503 \# 服务器返回代码为503的响应;
 *  http\_504 \# 服务器返回代码504的响应;
 *  http\_403 \# 服务器返回代码为403的响应;
 *  http\_404 \# 服务器返回代码为404的响应;
 *  http\_429 \# 服务器返回代码为429的响应（1.11.13）;
 *  non\_idempotent \# 通常，请求与 非幂等 方法（POST，LOCK，PATCH）不传递到请求是否已被发送到上游服务器（1.9.13）的下一个服务器; 启用此选项显式允许重试此类请求;
 *  off \# 禁用将请求传递给下一个服务器。

> **当请求类型是POST时，Nginx默认不会失败重试**，**如果想让POST请求也会失败重试，需要配置`non_idempotent。`**

配置示例：

upstream nginxretry {
        server 127.0.0.1:9030 weight=10;
    	server 127.0.0.1:9031 weight=10;
    }
    server {
        listen 9039;
        location / {
            proxy_pass http://nginxretry;
            proxy_next_upstream error timeout http_500;
        }
    }

#### proxy\_next\_upstream\_timeout ####

设置重试的超时时间，超时后不再重试，给用户返回错误，默认为0，即不做限制

<table> 
 <thead> 
  <tr> 
   <th>语法:</th> 
   <th><code>proxy_next_upstream_timeout time;</code></th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>Default:</td> 
   <td><code>proxy_next_upstream_timeout 0;</code></td> 
  </tr> 
  <tr> 
   <td>Context:</td> 
   <td><code>http</code>, <code>server</code>, <code>location</code></td> 
  </tr> 
 </tbody> 
</table>

#### proxy\_next\_upstream\_tries ####

设置重试的最大次数，若超过重试次数，也不再重试，默认为0，即不做限制（proxy\_next\_upstream\_timeout时间内允许proxy\_next\_upstream\_tries次重试，包括第一次）

<table> 
 <thead> 
  <tr> 
   <th>语法:</th> 
   <th><code>proxy_next_upstream_tries number;</code></th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>Default:</td> 
   <td><code>proxy_next_upstream_tries 0;</code></td> 
  </tr> 
  <tr> 
   <td>Context:</td> 
   <td><code>http</code>, <code>server</code>, <code>location</code></td> 
  </tr> 
 </tbody> 
</table>

配置示例：

server {
    	proxy_next_upstream error timeout;
    	proxy_next_upstream_timeout 15s;
    	proxy_next_upstream_tries 5;
    }

#### 重试限制方式 ####

> 默认配置是没有做重试机制进行限制的，也就是会尽可能去重试直至失败。

Nginx 提供了以下两个参数来控制重试次数以及重试超时时间：

*  `proxy_next_upstream_tries`：设置重试次数，默认 `0` 表示无限制，该参数包含所有请求 upstream server 的次数，包括第一次后之后所有重试之和；
 *  `proxy_next_upstream_timeout`：设置重试最大超时时间，默认 `0` 表示不限制，该参数指的是第一次连接时间加上后续重试连接时间，不包含连接上节点之后的处理时间

对upstream中某单一服务器的限制

*  max\_fails：最大失败次数（0为标记一直可用，不检查健康状态）
 *  fail\_timeout：失败时间（当fail\_timeout时间内失败了max\_fails次，标记服务不可用fail\_timeout时间后会再次激活次服务）

**配置示例1：**

upstream httpget {
        server 192.168.111.101:8080 max_fails=5 fail_timeout=10s;
        server 192.168.111.102:8080;
    }

**配置示例2：**

proxy_connect_timeout 3s;
    proxy_next_upstream_timeout 6s;
    proxy_next_upstream_tries 3;
    
    upstream test {
        server 127.0.0.1:8001 fail_timeout=60s max_fails=2; # Server A
        server 127.0.0.1:8002 fail_timeout=60s max_fails=2; # Server B
        server 127.0.0.1:8003 fail_timeout=60s max_fails=2; # Server C
    }