自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

Sentinel 是怎樣攔截異常流量的？

作者：侯樹成
網(wǎng)絡(luò) 通信技術(shù)
各位在家里用電的過程中，一定也經(jīng)歷過「跳閘」。這個「閘」就是在電量超過負荷的時候用來保護我們用電安全的，也被稱為「斷路器」，還有個響亮的英文名 -- CircuitBreaker。

[[342079]]

各位在家里用電的過程中，一定也經(jīng)歷過「跳閘」。這個「閘」就是在電量超過負荷的時候用來保護我們用電安全的，也被稱為「斷路器」，還有個響亮的英文名 -- CircuitBreaker。

和用電安全一樣，對于「限流」、「降級」、「熔斷」...，你我應該也都耳熟能詳。我們開發(fā)的各類軟件、系統(tǒng)、互聯(lián)網(wǎng)應用等為了不被異常流量壓垮，也需要一個斷路器。

在 Spring 應用中，使用斷路器很方便，我們可以使用 Spring Cloud CircuitBreaker。

Spring Cloud Circuit Breaker 是啥?如果你熟悉 Spring 是什么人的話，你能猜個八九不離十。和Spring Data JPA 這些類似，Spring 他又搞了個抽象的，標準的API 出來。這次他抽象的是關(guān)于降級熔斷的「斷路器」。有了這一層，具體實現(xiàn)是誰可以方便的更換，我們使用的代碼里改動基本為0。

我們先來從官方Demo有個初步印象：

  1. @RestController 
  2. public class DemoController { 
  3.   private CircuitBreakerFactory circuitBreakerFactory; 
  4.   private HttpBinService httpBin; 
  5.   public DemoController(CircuitBreakerFactory circuitBreakerFactory, HttpBinService httpBinService) { 
  6.     this.circuitBreakerFactory = circuitBreakerFactory; 
  7.     this.httpBin = httpBinService; 
  8.   } 
  9.   @GetMapping("/delay/{seconds}") 
  10.   public Map delay(@PathVariable int seconds) { 
  11.     return circuitBreakerFactory.create("delay").run(httpBin.delaySuppplier(seconds), t -> { 
  12.       Map<String, String> fallback = new HashMap<>(); 
  13.       fallback.put("hello", "world"); 
  14.       return fallback; 
  15.     }); 
  16.   } 
  17. } 

千言萬語，總結(jié)出來這樣一句circuitBreakerFactory.create("delay").run()

因為是抽象，對應的實現(xiàn)就有好多種啦。

目前支持的實現(xiàn)有：

  • Hystrix
  • Resilience4j
  • Sentinel
  • Spring Retry

而抽象相當于定了個標準，像JDBC一樣，無論我們把數(shù)據(jù)庫換成了MySQL，Oracle 還是SQLite，接口等非特定類型的代碼都不需要改變。斷路器也一樣。

這里的斷路器工廠，創(chuàng)建方法都是標準的。具體這里執(zhí)行業(yè)務邏輯的時候斷路器實現(xiàn)要怎樣進行攔截降級，就可以交給具體的實現(xiàn)來完成。

這次，我們以開源的 Sentinel 為例，來看看他們是怎樣攔住異常流量的。

首先，因為是Spring Cloud，所以還會基于 Spring Boot 的 Autoconfiguration。以下是配置類，我們看到生成了一個工廠。

  1. public class SentinelCircuitBreakerAutoConfiguration { 
  2.   @Bean 
  3.   @ConditionalOnMissingBean(CircuitBreakerFactory.class) 
  4.   public CircuitBreakerFactory sentinelCircuitBreakerFactory() { 
  5.     return new SentinelCircuitBreakerFactory(); 
  6.   } 
  7.   } 

在我們實際代碼執(zhí)行邏輯的時候，create 出來的是什么呢?

是個斷路器 CircuitBreaker，用來執(zhí)行代碼。

  1. public interface CircuitBreaker { 
  2.  
  3.   default <T> T run(Supplier<T> toRun) { 
  4.     return run(toRun, throwable -> { 
  5.       throw new NoFallbackAvailableException("No fallback available.", throwable); 
  6.     }); 
  7.   }; 
  8.   <T> T run(Supplier<T> toRun, Function<Throwable, T> fallback); 
  9. } 

包含兩個執(zhí)行的方法，需要在的時候可以指定fallback邏輯。具體到 Sentinel 是這樣的：

  1. public CircuitBreaker create(String id) { 
  2.     SentinelConfigBuilder.SentinelCircuitBreakerConfiguration conf = getConfigurations() 
  3.         .computeIfAbsent(id, defaultConfiguration); 
  4.     return new SentinelCircuitBreaker(id, conf.getEntryType(), conf.getRules()); 
  5.   } 

你會看到創(chuàng)建了一個SentinelCircuitBreaker。我們的業(yè)務邏輯，就會在這個斷路器里執(zhí)行,run方法就是各個具體實現(xiàn)的舞臺。

  1. @Override 
  2.   public <T> T run(Supplier<T> toRun, Function<Throwable, T> fallback) { 
  3.     Entry entry = null; 
  4.     try { 
  5.       entry = SphU.entry(resourceName, entryType); 
  6.       // If the SphU.entry() does not throw `BlockException`, it means that the 
  7.       // request can pass. 
  8.       return toRun.get(); 
  9.     } 
  10.     catch (BlockException ex) { 
  11.       // SphU.entry() may throw BlockException which indicates that 
  12.       // the request was rejected (flow control or circuit breaking triggered). 
  13.       // So it should not be counted as the business exception. 
  14.       return fallback.apply(ex); 
  15.     } 
  16.     catch (Exception ex) { 
  17.       // For other kinds of exceptions, we'll trace the exception count via 
  18.       // Tracer.trace(ex). 
  19.       Tracer.trace(ex); 
  20.       return fallback.apply(ex); 
  21.     } 
  22.     finally { 
  23.       // Guarantee the invocation has been completed. 
  24.       if (entry != null) { 
  25.         entry.exit(); 
  26.       } 
  27.     } 
  28.   } 

OK，到此為止， Spring Cloud CircuitBreaker 已經(jīng)展現(xiàn)完了。其它的細節(jié)都放到了具體實現(xiàn)的「盒子」里。下面我們把這個盒子打開。

Sentinel 是個熔斷降級框架，官方這樣自我介紹：

面向分布式服務架構(gòu)的高可用流量控制組件,主要以流量為切入點，從流量控制、熔斷降級、系統(tǒng)自適應保護等多個維度來幫助用戶保障微服務的穩(wěn)定性。

官網(wǎng)的這張代碼截圖簡潔的說明了他是怎樣工作的

擋在業(yè)務代碼的前面，有事兒先沖它來，能通過之后才走業(yè)務邏輯，和各類闖關(guān)還真類似。

在上面 CircuitBreaker 的 run 方法里，咱們一定都注意到了這句

  1. entry = SphU.entry(resourceName, entryType); 

這就是一切攔截的秘密。

無論我們是通過前面的CircuitBreaker的方式，還是 @SentinelResource 這種注解形式，還是通過 Interceptor 的方式，沒什么本質(zhì)區(qū)別。只是觸發(fā)點不一樣。最后都是通過SphU來搞定。

既然是攔截，那一定要攔下來做這樣或那樣的檢查。

實際檢查的時候，entry 里核心代碼有這些：

  1. Entry entryWithPriority(ResourceWrapper resourceWrapper, ...) 
  2.         throws BlockException { 
  3.         ProcessorSlot<Object> chain = lookProcessChain(resourceWrapper); 
  4.         Entry e = new CtEntry(resourceWrapper, chain, context); 
  5.         try { 
  6.             chain.entry(context, resourceWrapper,...); 
  7.         } catch (BlockException e1) { 
  8.             e.exit(count, args); 
  9.             throw e1; 
  10.         }  
  11.         return e; 
  12.     } 

注意這里的ProcessorSlot chain = lookProcessChain(resourceWrapper);會在請求過來處理的時候，如果未初始化處理鏈，則進行初始化，將各種first,next設(shè)置好，后面的請求都會按這個來處理。所有需要攔截的Slot，都會加到這個 chain 里面，再逐個執(zhí)行 chain 里的 slot。和Servlet Filter 類似。

chain里都加了些啥呢?

  1. public class HotParamSlotChainBuilder implements SlotChainBuilder { 
  2.     public ProcessorSlotChain build() { 
  3.         ProcessorSlotChain chain = new DefaultProcessorSlotChain(); 
  4.         chain.addLast(new NodeSelectorSlot()); 
  5.         chain.addLast(new ClusterBuilderSlot()); 
  6.         chain.addLast(new LogSlot()); 
  7.         chain.addLast(new StatisticSlot()); 
  8.         chain.addLast(new ParamFlowSlot()); 
  9.         chain.addLast(new SystemSlot()); 
  10.         chain.addLast(new AuthoritySlot()); 
  11.         chain.addLast(new FlowSlot()); 
  12.         chain.addLast(new DegradeSlot()); 
  13.         return chain; 
  14.     } 

初始的時候，first 指向一個匿名內(nèi)部類，這些加進來的slot，會在每次addLast的時候，做為鏈的next，

  1. AbstractLinkedProcessorSlot<?> end = first; 
  2.  
  3.     @Override 
  4.     public void addFirst(AbstractLinkedProcessorSlot<?> protocolProcessor) { 
  5.         protocolProcessor.setNext(first.getNext()); 
  6.         first.setNext(protocolProcessor); 
  7.         if (end == first) { 
  8.             end = protocolProcessor; 
  9.         } 
  10.     } 
  11.     @Override 
  12.     public void addLast(AbstractLinkedProcessorSlot<?> protocolProcessor) { 
  13.         end.setNext(protocolProcessor); 
  14.         end = protocolProcessor; 
  15.     } 

而每個 slot，有自己的特定用處，處理完自己的邏輯之后，會通過 fireEntry 來觸發(fā)下一個 slot的執(zhí)行。

給你一張長長的線程調(diào)用棧就會過分的明顯了：

  1. java.lang.Thread.State: RUNNABLE 
  2.     at com.alibaba.csp.sentinel.slots.block.flow.FlowSlot.checkFlow(FlowSlot.java:168) 
  3.     at com.alibaba.csp.sentinel.slots.block.flow.FlowSlot.entry(FlowSlot.java:161) 
  4.     at com.alibaba.csp.sentinel.slots.block.flow.FlowSlot.entry(FlowSlot.java:139) 
  5.     at com.alibaba.csp.sentinel.slotchain.AbstractLinkedProcessorSlot.transformEntry(AbstractLinkedProcessorSlot.java:40) 
  6.     at com.alibaba.csp.sentinel.slotchain.AbstractLinkedProcessorSlot.fireEntry(AbstractLinkedProcessorSlot.java:32) 
  7.     at com.alibaba.csp.sentinel.slots.block.authority.AuthoritySlot.entry(AuthoritySlot.java:39) 
  8.     at com.alibaba.csp.sentinel.slots.block.authority.AuthoritySlot.entry(AuthoritySlot.java:33) 
  9.     at com.alibaba.csp.sentinel.slotchain.AbstractLinkedProcessorSlot.transformEntry(AbstractLinkedProcessorSlot.java:40) 
  10.     at com.alibaba.csp.sentinel.slotchain.AbstractLinkedProcessorSlot.fireEntry(AbstractLinkedProcessorSlot.java:32) 
  11.     at com.alibaba.csp.sentinel.slots.system.SystemSlot.entry(SystemSlot.java:36) 
  12.     at com.alibaba.csp.sentinel.slots.system.SystemSlot.entry(SystemSlot.java:30) 
  13.     at com.alibaba.csp.sentinel.slotchain.AbstractLinkedProcessorSlot.transformEntry(AbstractLinkedProcessorSlot.java:40) 
  14.     at com.alibaba.csp.sentinel.slotchain.AbstractLinkedProcessorSlot.fireEntry(AbstractLinkedProcessorSlot.java:32) 
  15.     at com.alibaba.csp.sentinel.slots.block.flow.param.ParamFlowSlot.entry(ParamFlowSlot.java:39) 
  16.     at com.alibaba.csp.sentinel.slots.block.flow.param.ParamFlowSlot.entry(ParamFlowSlot.java:33) 
  17.     at com.alibaba.csp.sentinel.slotchain.AbstractLinkedProcessorSlot.transformEntry(AbstractLinkedProcessorSlot.java:40) 
  18.     at com.alibaba.csp.sentinel.slotchain.AbstractLinkedProcessorSlot.fireEntry(AbstractLinkedProcessorSlot.java:32) 
  19.     at com.alibaba.csp.sentinel.slots.statistic.StatisticSlot.entry(StatisticSlot.java:57) 
  20.     at com.alibaba.csp.sentinel.slots.statistic.StatisticSlot.entry(StatisticSlot.java:50) 
  21.     at com.alibaba.csp.sentinel.slotchain.AbstractLinkedProcessorSlot.transformEntry(AbstractLinkedProcessorSlot.java:40) 
  22.     at com.alibaba.csp.sentinel.slotchain.AbstractLinkedProcessorSlot.fireEntry(AbstractLinkedProcessorSlot.java:32) 
  23.     at com.alibaba.csp.sentinel.slots.logger.LogSlot.entry(LogSlot.java:35) 
  24.     at com.alibaba.csp.sentinel.slots.logger.LogSlot.entry(LogSlot.java:29) 
  25.     at com.alibaba.csp.sentinel.slotchain.AbstractLinkedProcessorSlot.transformEntry(AbstractLinkedProcessorSlot.java:40) 
  26.     at com.alibaba.csp.sentinel.slotchain.AbstractLinkedProcessorSlot.fireEntry(AbstractLinkedProcessorSlot.java:32) 
  27.     at com.alibaba.csp.sentinel.slots.clusterbuilder.ClusterBuilderSlot.entry(ClusterBuilderSlot.java:101) 
  28.     at com.alibaba.csp.sentinel.slots.clusterbuilder.ClusterBuilderSlot.entry(ClusterBuilderSlot.java:47) 
  29.     at com.alibaba.csp.sentinel.slotchain.AbstractLinkedProcessorSlot.transformEntry(AbstractLinkedProcessorSlot.java:40) 
  30.     at com.alibaba.csp.sentinel.slotchain.AbstractLinkedProcessorSlot.fireEntry(AbstractLinkedProcessorSlot.java:32) 
  31.     at com.alibaba.csp.sentinel.slots.nodeselector.NodeSelectorSlot.entry(NodeSelectorSlot.java:171) 
  32.     at com.alibaba.csp.sentinel.slotchain.AbstractLinkedProcessorSlot.transformEntry(AbstractLinkedProcessorSlot.java:40) 
  33.     at com.alibaba.csp.sentinel.slotchain.AbstractLinkedProcessorSlot.fireEntry(AbstractLinkedProcessorSlot.java:32) 
  34.     at com.alibaba.csp.sentinel.slotchain.DefaultProcessorSlotChain$1.entry(DefaultProcessorSlotChain.java:31) 
  35.     at com.alibaba.csp.sentinel.slotchain.AbstractLinkedProcessorSlot.transformEntry(AbstractLinkedProcessorSlot.java:40) 
  36.     at com.alibaba.csp.sentinel.slotchain.DefaultProcessorSlotChain.entry(DefaultProcessorSlotChain.java:75) 
  37.     at com.alibaba.csp.sentinel.CtSph.entryWithPriority(CtSph.java:148) 
  38.     at com.alibaba.csp.sentinel.CtSph.entryWithType(CtSph.java:347) 
  39.     at com.alibaba.csp.sentinel.CtSph.entryWithType(CtSph.java:340) 
  40.     at com.alibaba.csp.sentinel.SphU.entry(SphU.java:285) 

降級有三種類型

每種類型，都會根據(jù)對應的配置項數(shù)據(jù)比對，不符合就中斷，中斷之后也不能一直斷著，啥時候再恢復呢?就根據(jù)配置的時間窗口，會啟動一個恢復線程，到時間就會調(diào)度，把中斷標識恢復。

  1. public boolean passCheck(Context context, DefaultNode node, int acquireCount, Object... args) { 
  2.         if (cut.get()) { 
  3.             return false; 
  4.         } 
  5.         ClusterNode clusterNode = ClusterBuilderSlot.getClusterNode(this.getResource()); 
  6.         if (clusterNode == null) { 
  7.             return true; 
  8.         } 
  9.         if (grade == RuleConstant.DEGRADE_GRADE_RT) { 
  10.             double rt = clusterNode.avgRt(); 
  11.             if (rt < this.count) { 
  12.                 passCount.set(0); 
  13.                 return true; 
  14.             } 
  15.             // Sentinel will degrade the service only if count exceeds. 
  16.             if (passCount.incrementAndGet() < rtSlowRequestAmount) { 
  17.                 return true; 
  18.             } 
  19.         } else if (grade == RuleConstant.DEGRADE_GRADE_EXCEPTION_RATIO) { 
  20.             double exception = clusterNode.exceptionQps(); 
  21.             double success = clusterNode.successQps(); 
  22.             double total = clusterNode.totalQps(); 
  23.             // If total amount is less than minRequestAmount, the request will pass. 
  24.             if (total < minRequestAmount) { 
  25.                 return true; 
  26.             } 
  27.             // In the same aligned statistic time window, 
  28.             // "success" (aka. completed count) = exception count + non-exception count (realSuccess) 
  29.             double realSuccess = success - exception; 
  30.             if (realSuccess <= 0 && exception < minRequestAmount) { 
  31.                 return true; 
  32.             } 
  33.             if (exception / success < count) { 
  34.                 return true; 
  35.             } 
  36.         } else if (grade == RuleConstant.DEGRADE_GRADE_EXCEPTION_COUNT) { 
  37.             double exception = clusterNode.totalException(); 
  38.             if (exception < count) { 
  39.                 return true; 
  40.             } 
  41.         } 
  42.         if (cut.compareAndSet(false, true)) { 
  43.             ResetTask resetTask = new ResetTask(this); 
  44.             pool.schedule(resetTask, timeWindow, TimeUnit.SECONDS); 
  45.         } 
  46.         return false; 
  47.     } 

恢復做了兩件事：一、把passCount設(shè)置成0，二、中斷標識還原

上面介紹了對請求的攔截處理，這其中最核心的，也就是我們最主要配置的，一個是「流控」，一個是「降級」。這兩個對應的Slot，會在處理請求的時候，根據(jù)配置好的 「規(guī)則」rule 來判斷。比如我們上面看到的時間窗口、熔斷時間等，以及流控的線程數(shù)，QPS數(shù)這些。

這些規(guī)則默認的配置在內(nèi)存里，也可以通過不同的數(shù)據(jù)源加載進來。同時啟用了Sentinel 控制臺的話，在控制臺 也可以配置規(guī)則。這些規(guī)則，會通過 HTTP 發(fā)送給對應使用了 sentinel 的應用實例節(jié)點。

本文轉(zhuǎn)載自微信公眾號「 Tomcat那些事兒」，可以通過以下二維碼關(guān)注。轉(zhuǎn)載本文請聯(lián)系 Tomcat那些事兒公眾號。

 

責任編輯：武曉燕 來源： Tomcat那些事兒
Sentinel攔截Spring
相關(guān)推薦

2023-10-08 12:14:42

Sentinel流量控制

2016-01-12 10:27:38

SDN東西流量數(shù)據(jù)中心

2020-04-26 08:03:40

百度網(wǎng)盤流量

2009-08-03 16:27:17

2024-11-05 15:02:41

2021-03-22 08:06:59

SpringBootSentinel項目

2023-05-26 00:51:52

2023-06-20 08:10:00

2009-07-22 14:43:36

2009-01-03 09:13:00

2021-03-01 08:53:55

SSM攻擊流量

2010-03-24 15:40:39

網(wǎng)管運維管理摩卡軟件

2020-10-27 07:34:41

基站手機蜂窩網(wǎng)絡(luò)

2025-03-06 08:37:01

2025-02-03 00:55:00

Sentinel分布式系統(tǒng)

2017-01-23 10:10:09

2024-12-25 15:44:15

2025-04-08 09:20:00

Sentinel限流微服務

2024-02-04 10:08:34

2015-07-31 17:33:41

嘿嘿流量容聯(lián)云通訊
點贊
收藏

51CTO技術(shù)棧公眾號