服务熔断降级简介

喜欢ヅ旅行 2023-07-24 03:06 81阅读 0赞

## 背景 ##

很多网站背后都是一个庞大的分布式系统，多个子系统之间的调用大多是远程调用，要么HTTP要么RPC，这种远程调用其实是不可控的，当调用链越长，风险也就越大。  
  在微服务中，当一切正常时，请求流看起来是这样的：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTIxMDIxMDQ_size_16_color_FFFFFF_t_70_pic_center]  
  当其中有一个服务（例如服务I）有延迟时，它可能阻塞整个用户请求：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTIxMDIxMDQ_size_16_color_FFFFFF_t_70_pic_center 1]  
  在高流量的情况下，一个依赖服务的延迟可能导致服务器上的所有资源在数秒内饱和，这也意味着后续再有请求将无法立即提供服务：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTIxMDIxMDQ_size_16_color_FFFFFF_t_70_pic_center 2]

## 解决方案 ##

当使用熔断降级框架时，框架会包装每个依赖项，原有架构会发生变化，每个依赖项相互隔离，当延迟发生时，它会被限制在资源中，并包含**回退**逻辑，以决定在依赖项中发生故障时应作出何种响应：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTIxMDIxMDQ_size_16_color_FFFFFF_t_70_pic_center 3]

### 基础概念 ###

#### 服务雪崩 ####

当微服务A调用微服务B，B调用C和其他微服务，当调用链上某个服务不可用或响应时间过长，网关路由到A上的请求就会占用越来越多的系统资源，导致系统崩溃，这种现象称作雪崩效应。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTIxMDIxMDQ_size_16_color_FFFFFF_t_70_pic_center 4]

> 在分布式系统中，为了保证服务的可用性，我们一般会加入重试机制，在有些情况下，重试确实能解决问题，比如网络抖动等。但是有些情况下，重试只会加剧问题的严重性，会给下游服务造成极大的资源压力。  
> 重试不行，不重试也不靠谱，那我们怎么预防服务雪崩呢？答案是**熔断器模式**

#### 熔断器模式 ####

熔断器模式（Circuit Breaker Pattern）是一种现代软件开发的设计模式，用来侦测错误，避免不断的触发相同错误导致的灾难性后果。一个完善的熔断器一般有三种状态：

*  关闭
    
     *  默认情况是关闭的，熔断器本身自带计数器的功能，每当错误发生一次，计数器会累加，当达到一定条件时，熔断器就会自动跳到开启状态。
 *  开启
    
     *  在开启状态下，任何请求都会**直接被拒绝**，并且抛出异常信息。
 *  半开启
    
     *  在此状态下，断路器会允许部分请求通过，当通过的请求全部成功响应时，断路器会自动关闭。  
        ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTIxMDIxMDQ_size_16_color_FFFFFF_t_70_pic_center 5]

> 如果在微服务中引入断路器模式，那么整个分布式系统将天然具备**快速失败**和**无缝恢复**的功能。

#### 服务熔断 ####

一般是某个服务故障或者是异常引起的，类似于“保险丝”，当某个异常条件被触发，为了防止服务雪崩，直接熔断服务，而不是一直等到此服务超时。  
  典型的熔断场景：例如过载保护，当请求线程数过多时被限流，

#### 服务降级 ####

当服务器压力剧增时，根据当前业务情况及流量，对一些非核心服务进行有策略的停服，缓解服务器资源压力，以保证核心业务的正常运行。

*  自动降级：超时、失败次数过多、故障
    
     *  响应时间超过配置的超时时间（异步机制探测回复情况）
     *  不稳的API调用次数达到一定数量（异步机制探测回复情况）
     *  调用的服务出现故障（HTTP状态码、网络故障、RPC服务异常）
 *  人工降级：秒杀、双十一大促，非核心服务停服

#### 熔断和降级异同 ####

*  相同点
    
     *  从可用性和可靠性触发，为了防止系统崩溃
     *  最终让用户体验到的是某些功能暂时不能用
 *  不同点
    
     *  服务熔断一般是下游服务故障导致的
     *  服务降级一般是从整体系统负荷考虑，由调用方控制

## Hystrix ##

### 配置 ###

circuitBreaker.requestVolumeThreshold    // 滑动窗口的大小，默认为20 
    circuitBreaker.sleepWindowInMilliseconds // 过多长时间，熔断器再次检测是否开启，默认为5000，即5s
    circuitBreaker.errorThresholdPercentage  // 错误率，默认50%

这几个参数所表达的意思是：每当20个请求中，有50%失败时，断路器就会打开，此时再调用此服务，将会直接返回失败，不再调远程服务。5s之后，重新检测该触发条件，判断是否把断路器关闭。  
  断路器打开之后，这种错误情况不可能直接传给用户，所以需要准备一个本地的`fallback`回调函数，返回一个缺省值。

### 熔断降级代码示例 ###

@GetMapping("/user/{id}")
    @HystrixCommand(fallbackMethod ="hystrix_GET")
    public User findById(@PathVariable("id") Integer id) { 
        User user = userService.findById(id);
        if (null == user) { 
            throw new RuntimeException("user not found");
        }
        return user;
    }
    
    // 回调函数
    public User hystrix_GET(@PathVariable("id") Integer id) { 
    	log.info("in fallbackMethod ..");
        return null;
    }

> 启动类上加`@EnableCircuitBreaker`注解，开启服务熔断机制

### Feign代码示例 ###

@Component
    public class UserClientFallback implements FallbackFactory<UserService> { 
        @Override
        public UserService create(Throwable throwable) { 
            return new UserService() { 
                @Override
                public User findById(Integer id) { 
    	            log.info("停服...");
    	            return null;
                }
                
                @Override
                public List<User> findAll() { 
                	log.info("停服...");
                    return null;
                }
            };
        }
    }
    
    @FeignClient(value = "user-client",fallbackFactory = UserClientFallback.class)
    public interface UserClient { 
    	@GetMapping("/user/{id}")
    	public User findById(@PathVariable("id") Integer id);
    	@GetMapping("/user")
    	public List<User> findAll();
    }

feign:  # 开启feign熔断降级功能
      hystrix:
        enabled: true

## Sentinel ##

### 熔断降级代码示例 ###

@Service
    public class TestService { 
        @SentinelResource(value = "sayHello", blockHandler = "sayHelloBlockHandler")
        public String sayHello(String name) { 
            return "Hello, " + name;
        }
        
        public Object sayHelloBlockHandler(String name, BlockException ex) { 
            log.warn("Sentinel fallback", ex);
            return "Service down";
        }
    }
    
    @RestController
    public class TestController { 
        @Autowired
        private TestService service;
    
        @GetMapping(value = "/hello/{name}")
        public String apiHello(@PathVariable String name) { 
            return service.sayHello(name);
        }
    }

### Feign代码示例 ###

@FeignClient(name = "service", fallback = ServiceFallback.class, configuration = FeignConfig.class)
    public interface Service { 
        @RequestMapping(value = "/echo/{str}", method = RequestMethod.GET)
        String echo(@PathVariable("str") String str);
    }
    
    class FeignConfig { 
        @Bean
        public ServiceFallback serviceFallback() { 
            return new ServiceFallback();
        }
    }
    
    class ServiceFallback implements Service { 
        @Override
        public String echo(@PathVariable("str") String str) { 
            return "echo fallback";
        }
    }

## 熔断降级框架比较 ##

<table> 
 <thead> 
  <tr> 
   <th align="center"></th> 
   <th align="center">Sentinel</th> 
   <th align="center">Hystrix</th> 
   <th align="center">resilience4j</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td align="center">隔离策略</td> 
   <td align="center">信号量隔离（并发线程数限流）</td> 
   <td align="center">线程池隔离/信号量隔离</td> 
   <td align="center">信号量隔离</td> 
  </tr> 
  <tr> 
   <td align="center">熔断降级策略</td> 
   <td align="center">基于响应时间、异常比率、异常数</td> 
   <td align="center">基于异常比率</td> 
   <td align="center">基于异常比率、响应时间</td> 
  </tr> 
  <tr> 
   <td align="center">实时统计实现</td> 
   <td align="center">滑动窗口（LeapArray）</td> 
   <td align="center">滑动窗口（RxJava）</td> 
   <td align="center">Ring Bit Buffer</td> 
  </tr> 
  <tr> 
   <td align="center">动态规则配置</td> 
   <td align="center">支持多种数据源</td> 
   <td align="center">支持多种数据源</td> 
   <td align="center">有限支持</td> 
  </tr> 
  <tr> 
   <td align="center">扩展性</td> 
   <td align="center">多个扩展点</td> 
   <td align="center">插件的形式</td> 
   <td align="center">接口的形式</td> 
  </tr> 
  <tr> 
   <td align="center">基于注解的支持</td> 
   <td align="center">支持</td> 
   <td align="center">支持</td> 
   <td align="center">支持</td> 
  </tr> 
  <tr> 
   <td align="center">限流</td> 
   <td align="center">基于 QPS，支持基于调用关系的限流</td> 
   <td align="center">有限的支持</td> 
   <td align="center">Rate Limiter</td> 
  </tr> 
  <tr> 
   <td align="center">流量整形</td> 
   <td align="center">支持预热模式、匀速器模式、预热排队模式</td> 
   <td align="center">不支持</td> 
   <td align="center">简单的 Rate Limiter 模式</td> 
  </tr> 
  <tr> 
   <td align="center">系统自适应保护</td> 
   <td align="center">支持</td> 
   <td align="center">不支持</td> 
   <td align="center">不支持</td> 
  </tr> 
  <tr> 
   <td align="center">控制台</td> 
   <td align="center">提供开箱即用的控制台，可配置规则、查看秒级监控、机器发现等</td> 
   <td align="center">简单的监控查看</td> 
   <td align="center">不提供控制台，可对接其它监控系统</td> 
  </tr> 
 </tbody> 
</table>

> [Hystrix官网][Hystrix]，**Hystrix已停止维护**，Netflix官方推荐使用resilience4j，它更轻量，支持函数式接口和lambda表达式等使用方式，更加优雅。  
> [Sentinel官网][Sentinel]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTIxMDIxMDQ_size_16_color_FFFFFF_t_70_pic_center]: /images/20230528/6cb1fdc2604e4dbe9da2b0464b2dfa53.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTIxMDIxMDQ_size_16_color_FFFFFF_t_70_pic_center 1]: /images/20230528/704b0b7f117f4900b2c30f83815f29ff.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTIxMDIxMDQ_size_16_color_FFFFFF_t_70_pic_center 2]: /images/20230528/0e9270f4637b42dbad857e120f30c7a5.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTIxMDIxMDQ_size_16_color_FFFFFF_t_70_pic_center 3]: /images/20230528/509707cfcdf64f5a85a2214d5a854870.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTIxMDIxMDQ_size_16_color_FFFFFF_t_70_pic_center 4]: /images/20230528/738352efc7a24e3280b510f3c72e96f4.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTIxMDIxMDQ_size_16_color_FFFFFF_t_70_pic_center 5]: /images/20230528/88c1ecc2a89a41599a93825dd0a0c936.png
[Hystrix]: https://github.com/Netflix/Hystrix
[Sentinel]: https://github.com/alibaba/Sentinel