報告老板，微服務高可用神器已祭出，您花巨資營銷的高流量來了沒？

來自：碼大叔

我得意地來到老板的辦公室：“報告老板，高可用神器已祭出，您花巨資營銷的高流量什么時候到？” 

老板呵呵一聲：“高流量下周一來報道，你可以準備下和他做工作交接了”

窗戶外一陣冷風吹過，接下來是不是會發(fā)生點什么。

目錄

    一、從阿里雙11的高并發(fā)高流量開始

    二、核心功能及原理說明

        2.1. 代碼功能模塊說明

        2.2. 總體技術(shù)框架

        2.3. 核心概念：Resource/Entry/Context/Node

        2.4. 簡單上手及dashboard一覽

    三、生產(chǎn)環(huán)境下使用的一些思考

        3.1. 流量控制規(guī)則管理及推送

        3.2. 單機限流的閾值如何配置

    四、從 Hystrix 遷移到 Sentinel

        4.1. 為什么Sentinel不支持線程池隔離

        4.2. 遷移方案

    五、實戰(zhàn)踩坑：Jar包兼容的那些坑

        5.1. fastjson序列化異常

        5.2. Sleuth和Sentinel，我們決斗吧

一、從阿里雙11的高并發(fā)高流量開始

隨著微服務的流行，服務和服務之間的穩(wěn)定性變得越來越重要。Sentinel以流量為切入點，從流量控制、熔斷降級、系統(tǒng)負載保護等多個維度保護服務的穩(wěn)定性。

通過Sentinel可以應對或支撐以下場景：

1. 持續(xù)峰值：限流、慢調(diào)用降級

2. 秒殺（也可稱之為脈沖流量）：限流、慢調(diào)用降級

3. 削峰填谷：消費端可能會出現(xiàn)大批量的消息同時到達，若瞬時請求所有消息會導致系統(tǒng)負載過高。Sentinel利用勻速器模式將消息均攤到一段時間內(nèi)，讓系統(tǒng)負載保持在處理能力水位的同時盡可能地處理更多消息，從而起到“削峰填谷”的效果。

4. 冷啟動：當流量突然增大的時候，我們希望系統(tǒng)從空閑狀態(tài)到繁忙狀態(tài)的切換的時間長一些，即如果系統(tǒng)在此之前長期處于空閑的狀態(tài)，我們希望處理請求的速率緩慢增加，經(jīng)過預期的時間以后，到達系統(tǒng)處理請求速率的設定值；

5. 熱點商品自動探測、防護：自動統(tǒng)計訪問頻次最高的熱點參數(shù)并進行流量控制；

6. 集群流量不均勻：通過集群限流來解決集群各個機器的流量不均導致整體限流效果不精確的問題；

7. 完備的實時監(jiān)控：Sentinel 同時提供實時的監(jiān)控功能。可以在控制臺中看到接入應用的單臺機器秒級數(shù)據(jù)，甚至 500 臺以下規(guī)模的集群的匯總運行情況。

作為一個功能完備的高可用流量控制框架，核心的 sentinel-core 打包后只有 286KB（最新的1.7.2版本），非常輕量級，可以放心地引入 sentinel-core 而不需擔心依賴問題（打臉，沒有坑是不可能的）。根據(jù)官方提供的數(shù)據(jù)，引入 Sentinel 帶來的性能損耗非常小，單機 QPS 不太大的時候損耗幾乎可以忽略不計（單機 4.3W QPS 的損耗約為 2.36%）

二、核心功能及原理說明

• sentinel-core 核心模塊，限流、降級、系統(tǒng)保護等都在這里實現(xiàn)

• sentinel-dashboard 控制臺模塊，可以對連接上的sentinel客戶端實現(xiàn)可視化的管理

• sentinel-transport 傳輸模塊，提供了基本的監(jiān)控服務端和客戶端的API接口，以及一些基于不同庫的實現(xiàn)

• sentinel-extension 擴展模塊，主要對DataSource進行了部分擴展實現(xiàn)

• sentinel-adapter 適配器模塊，主要實現(xiàn)了對一些常見框架的適配

• sentinel-demo 樣例模塊，可參考怎么使用sentinel進行限流、降級等

• sentinel-benchmark 基準測試模塊，對核心代碼的精確性提供基準測試

• sentinel-logging 日志模塊，可將sentinel的日志通過slf4j集成到項目中

• sentinel-cluster 集群，1.4版本中提供了集群流控的功能

從使用上來看，主要分為兩大部分：

核心庫（Java 客戶端）：不依賴任何框架/庫，能夠運行于 Java 7 及以上的版本的運行時環(huán)境，同時對 Dubbo / Spring Cloud 等框架也有較好的支持（見 主流框架適配）。

控制臺（Dashboard）：Dashboard 主要負責管理推送規(guī)則、監(jiān)控、管理機器信息等。

sentinel主要是基于7種不同的Slot形成了一個鏈表，每個Slot都各司其職，自己做完分內(nèi)的事之后，會把請求傳遞給下一個Slot，直到在某一個Slot中命中規(guī)則后拋出BlockException而終止。前三個Slot負責做統(tǒng)計，后面的Slot負責根據(jù)統(tǒng)計的結(jié)果結(jié)合配置的規(guī)則進行具體的控制，是Block該請求還是放行。

• NodeSelectorSlot 負責收集資源的路徑，并將這些資源的調(diào)用路徑，以樹狀結(jié)構(gòu)存儲起來，用于根據(jù)調(diào)用路徑來限流降級；

• ClusterBuilderSlot 則用于存儲資源的統(tǒng)計信息以及調(diào)用者信息，例如該資源的 RT, QPS, thread count 等等，這些信息將用作為多維度限流，降級的依據(jù)；

• StatisticSlot 則用于記錄、統(tǒng)計不同緯度的 runtime 指標監(jiān)控信息；

• FlowSlot 則用于根據(jù)預設的限流規(guī)則以及前面 slot 統(tǒng)計的狀態(tài)，來進行流量控制；

• AuthoritySlot 則根據(jù)配置的黑白名單和調(diào)用來源信息，來做黑白名單控制；

• DegradeSlot 則通過統(tǒng)計信息以及預設的規(guī)則，來做熔斷降級；

• SystemSlot 則通過系統(tǒng)的狀態(tài)，例如 load1 等，來控制總的入口流量；

• Resource

• Context

1）當前調(diào)用鏈的根節(jié)點：EntranceNode

2）當前的入口：Entry

3）當前入口所關(guān)聯(lián)的節(jié)點：Node

Context中只會保存一個當前正在處理的入口Entry，另外還會保存調(diào)用鏈的根節(jié)點。需要注意的是，每次進入一個新的資源時，都會創(chuàng)建一個新的Context。

• Entry

• Node

官方有比較完善的演示代碼：

/** * 配置規(guī)則 */private static void initFlowRules(){ List<FlowRule> rules = new ArrayList<>(); FlowRule rule = new FlowRule(); rule.setResource("HelloWorld"); rule.setGrade(RuleConstant.FLOW_GRADE_QPS); // Set limit QPS to 20. rule.setCount(20); rules.add(rule); FlowRuleManager.loadRules(rules);}
public static void main(String[] args) { // 配置規(guī)則. initFlowRules();
 while (true) { // 1.5.0 版本開始可以直接利用 try-with-resources 特性，自動 exit entry try (Entry entry = SphU.entry("HelloWorld")) { // 被保護的邏輯 System.out.println("hello world"); } catch (BlockException ex) { // 處理被流控的邏輯 System.out.println("blocked!"); } }}

如果是SpringCloud項目，可參考https://github.com/sentinel-group/sentinel-guides/tree/master/sentinel-guide-spring-cloud

整個dashboard的功能體驗下來，就是不停的 “我*，這功能也有。我*，還能這么玩啊”，網(wǎng)上案例比較多，這里就不多描述了，真香！

三、生產(chǎn)環(huán)境下使用的一些思考

如上圖所示，整個流程：配置中心控制臺/Sentinel 控制臺 → 配置中心 → Sentinel 數(shù)據(jù)源 → Sentinel。Sentinel目前已經(jīng)支持了ZooKeeper、攜程的 Apollo, 阿里自身的Nacos 等的動態(tài)數(shù)據(jù)源。接下來以Nacos為例：

1、在Spring Cloud應用中引入Sentinel模塊和Nacos存儲擴展：

implementation ('com.alibaba.cloud:spring-cloud-starter-alibaba-sentinel:2.1.2.RELEASE'){ exclude group:'com.alibaba',module: 'fastjson'}implementation 'com.alibaba.csp:sentinel-datasource-nacos:1.7.2.RELEASE'

2、在應用中添加配置信息

spring: cloud: sentinel: transport: # sentinel dashboard的地址 dashboard: localhost:8080 datasource: ds: nacos: # nacos的地址 server-addr: localhost:8848 # nacos中存儲規(guī)則的groupId dataId: madashu-test-sentinel # nacos中存儲規(guī)則的dataId groupId: DEFAULT_GROUP # 存儲的規(guī)則類型 rule-type: flow

3、在Nacos中設置相應的規(guī)則

JSON:[ { "resource": "/madashu/hello", "limitApp": "default", "grade": 1, "count": 5, "strategy": 0, "controlBehavior": 0, "clusterMode": false }]

• resource：資源名

• limitApp：流控針對的調(diào)用來源，default不區(qū)分來源

• grade：限流閾值類型(0-根據(jù)并發(fā)數(shù)量來限流 1-根據(jù)QPS來進行流量控制)

• count：限流閾值

• strategy：調(diào)用關(guān)系限流策略

• controlBehavior：流量控制效果(直接拒絕、WarmUP、勻速排隊)

• clusterMode：是否集群模式 

四、從 Hystrix 遷移到 Sentinel

五、實戰(zhàn)踩坑：Jar包兼容的那些坑

java.lang.NoSuchMethodError: com.alibaba.fastjson.serializer.JavaBeanSerializer.processValue(Lcom/alibaba/fastjson/serializer/JSONSerializer;Lcom/alibaba/fastjson/serializer/BeanContext;Ljava/lang/Object;Ljava/lang/String;Ljava/lang/Object;)Ljava/lang/Object;Ljava/lang/Integer;at com.alibaba.fastjson.serializer.ASMSerializer_12_XXX.writeNormal(Unknown Source) ~[?:?]

經(jīng)過排查發(fā)現(xiàn)，sentinel這個jar包依賴了fastjson1.2.62，而這個版本中是有bug的，具體參見，https://github.com/alibaba/fastjson/issues/2790

解決方案：

排除掉依賴的jar包即可，fastjson1.2.60中是不存在該問題的。最新的1.2.68中是否修復了該問題沒有驗證，有興趣的小伙伴可以驗一下。

implementation ('com.alibaba.cloud:spring-cloud-starter-alibaba-sentinel:2.1.2.RELEASE'){ exclude group:'com.alibaba',module: 'fastjson'}

在微服務中，一個請求往往經(jīng)過多個業(yè)務模塊，比如用戶發(fā)起支付，可能經(jīng)過了會員服務、交易服務、支付服務、賬戶服務等，此時一旦某個服務發(fā)生了問題，定位時將會非常的困難。在Spring Cloud項目上，一般會引入鏈路調(diào)用跟蹤框架Spring Cloud Sleuth+zipkin，此時務必要注意：如果在項目中使用了Feign，熔斷可能已經(jīng)失效了。因為Sleuth為了傳遞鏈路調(diào)用跟蹤的信息對Feign進行了擴展，而Sentinel為了實現(xiàn)熔斷限流也對Feign進行了擴展，也就導致了兩個本互不相干的框架竟然產(chǎn)生了沖突。

解決方案：

方案1：二選一，做個決斷吧，哈哈。Sleuth是支持Hystrix的，而Hystrix已停止了維護，Sentinel正火，說不定很快Sleuth也會支持Sentinel。

方案2：換成其他的鏈路調(diào)用跟蹤框架，這個網(wǎng)上有很多開源的產(chǎn)品，筆者之前的公司時也曾研發(fā)并開源了這樣一套系統(tǒng)。

方案3：最近剛發(fā)現(xiàn)網(wǎng)上有一位大佬提供了修改源碼的方案，實現(xiàn)還是很簡單的，將Sentinel融入到Sleuth中

詳細可參見：

https://www.cnblogs.com/yinjihuan/p/12730654.html

以上只是對Sentinel一些粗淺的體驗，在Sentinel中有很多優(yōu)秀的設計思想、先進的算法、值得拜讀的代碼等，后續(xù)再慢慢品味。

參考，致謝：

https://blog.csdn.net/g6U8W7p06dCO99fQ3/article/details/104454238/

https://www.cnblogs.com/yinjihuan/p/12730654.html

https://github.com/alibaba/Sentinel/wiki/Guideline:-%E4%BB%8E-Hystrix-%E8%BF%81%E7%A7%BB%E5%88%B0-Sentinel

https://www.jianshu.com/p/5a468b6a07fe

特別推薦一個分享架構(gòu)+算法的優(yōu)質(zhì)內(nèi)容，還沒關(guān)注的小伙伴，可以長按關(guān)注一下：
長按訂閱更多精彩▼
如有收獲，點個在看，誠摯感謝