Sentinel

雪崩问题：微服务调用链路种某个服务故障，引起整个链路中的所有微服务都不可用，这就是雪崩。

解决学崩问题的常见方式：

1. 超时处理：设定超时时间，请求超过一定时间没有响应就返回错误信息，不会无休止等待

2. 舱壁模式：限定每个业务能使用的线程数，避免耗尽整个tomcat资源，因此也叫线程隔离

3. 熔断降级：由 断路器 统计业务执行的异常比例，如果超出阈值就会 熔断 该业务，拦截访问该业务的一切请求。

4. 流量控制：限制业务访问的QPS，避免服务因流量的突增而故障

安装Sentinel控制台

sentinel官方控制了UI控制台，方便我们对系统做限流设置。

1. 将其拷贝到一个你能记住的非中文目录，然后运行命令：

   java -jar sentinel-dashboard-1.8.1.jar

2. 然后访问：localhost:8080 即可看到控制台页面，默认的账户和密码都是sentinel

3. 如果要修改Sentinel的默认端口、账户、密码，可以通过下列配置：

   配置项	默认值	说明
   server.port	8080	服务端口
   sentinel.dashboard.auth.username	sentinel	默认用户名
   sentinel.dashboard.auth.password	sentinel	默认密码

   举例说明：

   java -jar sentinel-dashboard-1.8.7.jar -Dserver.port=8090

微服务整合Sentinel

我们在order-service中整合Sentinel，并且连接Sentinel控制台，步骤如下：

1. 引入sentinel依赖：

   <!--sentinel-->
   <dependency>
    ? ?<groupId>com.alibaba.cloud</groupId> 
    ? ?<artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
   </dependency>

2. 配置控制台地址

   spring:
   	cloud: 
       	sentinel:
           	transport:
               	dashboard: localhost:8080

3. 访问微服务的任意端点，触发sentinel监控

限流规则

• 簇点链路：就是项目内的调用链路，链路中 被监控 的每一个接口就是一个资源。默认情况下sentinel会监控SpringMVC的每一个端点（Endpoint），因此SpringMVC的每一个端点就是调用链路中的一个资源。

• 流控、熔断等都是 针对簇点链路中的资源来设置的，因此我们可以点击对应资源后面的按钮来设置规则：

流控模式

在添加限流规则时，点击高级选项，可以选择三种流控模式：

• 直接：统计当前资源的请求，触发阈值时对当前资源直接限流，也是默认的模式

• 关联：统计与当前资源相关的另一个资源，触发阈值时，对当前资源限流

  • 关联模式适合：

    1. 有两个竞争关系的资源

    2. 一个优先级较高，一个优先级较低

• 链路：统计从指定链路访问到本资源的请求，触发阈值时，对指定链路限流

  • Sentinel默认只标记Controller中的方法为资源，如果要标记其它方法，需要利用@SentinelResource注解，示例：

    @SentinelResource("goods")
    public void queryGoods() {
        System.err.println("查询商品");
    }

  • Sentinel默认会将Controller方法做context整合，导致链路模式的流控失效，需要修改application.yml，添加配置：

    spring:
        cloud:
     ?      sentinel:
     ? ? ?      web-context-unify: false # 关闭context整合

流控效果 - warm up

warm up也叫预热模式，是应对服务冷启动的一种方案。请求阈值初始值是 threshold / coldFactor，持续指定时长后，逐渐提高到threshold值。而coldFactor的默认值是3.

流控效果 - 排队等待

当请求超过QPS阈值时，快速失败和warm up 会拒绝新的请求并抛出异常。而排队等待则是让所有请求进入一个队列中，然后按照阈值允许的时间间隔依次执行。后来的请求必须等待前面执行完成，如果请求预期的等待时间超出最大时长，则会被拒绝。

热点参数限流

之前的限流是统计访问某个资源的所有请求，判断是否超过QPS阈值。而热点参数限流是分别统计参数值相同的请求，判断是否超过QPS阈值。

在热点参数限流的高级选项中，可以对部分参数设置例外配置：

热点参数限流对默认的SpringMVC资源无效

隔离和降级

虽然限流可以尽量避免因高并发而引起的服务故障，但服务还会因为其它原因而故障。而要将这些故障控制在一定范围，避免雪崩，就要靠线程隔离（舱壁模式）和熔断降级手段了。

不管是线程隔离还是熔断降级，都是对客户端（调用方）的保护。

Feign整合Sentinel

SpringCloud中、微服务调用都是通过feign来实现的，因此做客户端保护必须整合Feign和Sentinel。

1. 修改OrderService的application.yml文件，开启Feign的Sentinel功能

   feign:
       sentinel:
           enable: true #开启feign的Sentinel功能

2. 给FeignClient编写失败后的降级逻辑

   • 方式1：FallbackClass, 无法对远程调用的异常做处理。

   • 方式2：FallbackFactory，可以对远程调用做异常处理

线程隔离

1. 线程池隔离：

2. 信号量隔离（Sentinel默认采用）：

3. 优缺点：

   • 信号量隔离：

     • 优点：

       1. 轻量级，无额外开销

     • 缺点：

       1. 不支持主动超时

       2. 不支持异步调用

     • 场景：

       1. 高频调用

       2. 高扇出

   • 线程池隔离

     • 优点

       1. 支持主动超时

       2. 支持异步调用

     • 缺点

       1. 线程额外开销大

     • 场景

       1. 低扇出

线程隔离（舱壁模式）

添加限流规则时，可以选择两种阈值类型：

• QPS：就是每秒的请求数，在快速入门中已经演示过

• 线程数：是该资源能使用用的tomcat线程数的最大值。也就是通过限制线程数量，实现舱壁模式。

熔断降级

熔断降级是解决雪崩问题的重要手段。其思路是由断路器统计服务调用的异常比例、慢请求比例，如果超出阈值则会熔断该服务。即拦截访问该服务的一切请求；而当服务恢复时，断路器会放行访问该服务的请求。

熔断策略-慢调用

断路器熔断策略有三种：慢调用、异常比例、异常数

• 慢调用：业务的响应时长（RT）大于指定时长的请求认定为慢调用请求。在指定时间内，如果请求数量超过设定的最小数量，慢调用比例大于设定的阈值，则触发熔断。例如：

• 解读：RT超过500ms的调用是慢调用，统计最近10000ms内的请求，如果请求量超过10次，并且慢调用比例不低于0.5，则触发熔断，熔断时长为5秒。然后进入half-open状态，放行一次请求做测试。

熔断策略-异常比例、异常数

断路器熔断策略有三种：慢调用、异常比例或异常数

?异常比例或异常数：统计指定时间内的调用，如果调用次数超过指定请求数，并且出现异常的比例达到设定的比例阈值（或超过指定异常数），则触发熔断。例如：

解读：统计最近1000ms内的请求，如果请求量超过10次，并且异常比例不低于0.5，则触发熔断，熔断时长为5秒。然后进入half-open状态，放行一次请求做测试。