摘要：?1、當(dāng)服務(wù)量大到一定程度，流量扛不住的時候，該如何處理？ 2、應(yīng)用之間相互依賴，當(dāng)應(yīng)用A出現(xiàn)響應(yīng)時間過長，影響到應(yīng)用B的響應(yīng)，進(jìn)而產(chǎn)生連鎖反應(yīng)影響整個依賴鏈上的所有應(yīng)用，該如何處理？

隨著微服務(wù)的流行，服務(wù)和服務(wù)之間的穩(wěn)定性變得越來越重要。Sentinel以流量為切入點，從流量控制、熔斷降級、系統(tǒng)負(fù)載保護(hù)等多個維度保護(hù)服務(wù)的穩(wěn)定性。Sentinel 作為阿里巴巴“大中臺、小前臺”架構(gòu)中的基礎(chǔ)模塊，覆蓋了阿里的所有核心場景，也因此積累了大量的流量歸整場景以及生產(chǎn)實踐。

在近期的Aliware Open Source?深圳站-Apache Dubbo & ApacheRocketMQ開發(fā)者沙龍上，阿里巴巴中間件高級技術(shù)專家 子矜 宣布將Sentinel 進(jìn)行開源，并發(fā)布了首個社區(qū)版本v0.1.0，以下是根據(jù)子矜的現(xiàn)場分享所整理，為大家回顧分享中的精彩內(nèi)容。

分享嘉賓介紹：

林佳梁（子矜），阿里巴巴中間件高級技術(shù)專家，參與阿里巴巴多年雙十一大促，對流量的管控、高可用架構(gòu)有著豐富的經(jīng)驗，目前負(fù)責(zé)流量管控軟件Sentinel的開發(fā)和商業(yè)化。

一、Sentinel 的產(chǎn)生背景

在過去的 10 多年里，阿里巴巴投入了集團(tuán)大量的精英人力用于提升淘寶、天貓平臺服務(wù)的穩(wěn)定性，正是有了多年來上萬名阿里技術(shù)人才的持續(xù)創(chuàng)新和技術(shù)沉淀，在一系列秒殺大促中，特別是雙11 這樣現(xiàn)象級的電商大促中，才打造出了今天大家所看到的可輕松應(yīng)對雙11的平臺穩(wěn)定性體系，包括限流和降級、流量調(diào)度、業(yè)務(wù)開關(guān)、容量壓測和評估、全鏈路壓測、業(yè)務(wù)一致性平臺等，而Sentinel正是在這種背景下產(chǎn)生的限流降級框架，目前已接入集團(tuán)幾乎所有的核心應(yīng)用。

二、Sentinal 可以解決什么問題？

? 限流：
當(dāng)我們設(shè)計了一個函數(shù)，準(zhǔn)備上線，這時候這個函數(shù)會消耗一些資源，處理上限是1秒服務(wù)3000個QPS，但如果實際情況遇到高于3000的QPS該如何解決呢？Sentinel提供了兩種流量統(tǒng)計方式，一種是統(tǒng)計并發(fā)線程數(shù)，另外一種則是統(tǒng)計 QPS，當(dāng)并發(fā)線程數(shù)超出某個設(shè)定的閥值，新的請求會被立即拒絕，當(dāng)QPS超出某個設(shè)定的閥值，系統(tǒng)可以通過直接拒絕、冷啟動、勻速器三種方式來應(yīng)對，從而起流量控制的作用。

? 熔斷降級：
接觸過Spring Cloud、Service Mesh的同學(xué)，都知道熔斷降級的概念。服務(wù)之間會有相互依賴關(guān)系，例如服務(wù)A做到了1秒上萬個QPS，但這時候服務(wù)B并無法滿足1秒上萬個QPS，那么如何保證服務(wù)A在高頻調(diào)用服務(wù)B時，服務(wù)B仍能正常工作呢？一種比較常見的情況是，服務(wù)A調(diào)用服務(wù)B時，服務(wù)B因無法滿足高頻調(diào)用出現(xiàn)響應(yīng)時間過長的情況，導(dǎo)致服務(wù)A也出現(xiàn)響應(yīng)過長的情況，進(jìn)而產(chǎn)生連鎖反應(yīng)影響整個依賴鏈上的所有應(yīng)用，這時候就需要熔斷和降級的方法。Sentinel通過并發(fā)線程數(shù)進(jìn)行限制和響應(yīng)時間對資源進(jìn)行降級兩種手段來對服務(wù)進(jìn)行熔斷或降級。

? 塑形
通常我們遇到的流量具有隨機(jī)性、不規(guī)則、不受控的特點，但系統(tǒng)的處理能力往往是有限的，我們需要根據(jù)系統(tǒng)的處理能力對流量進(jìn)行塑形，即規(guī)則化，從而根據(jù)我們的需要來處理流量。Sentinel通過資源的調(diào)用關(guān)系、運行指標(biāo)、控制的效果三個維度來對流量進(jìn)行控制，開發(fā)者可以自行靈活組合，從而達(dá)到理想的效果。

? 系統(tǒng)負(fù)載保護(hù)
平時系統(tǒng)運行都沒問題，但遇到大促的時候，發(fā)現(xiàn)機(jī)器的load非常高，這時候?qū)ο到y(tǒng)的負(fù)載保護(hù)就顯得非常重要，以防止雪崩。Sentinel 提供了對應(yīng)的保護(hù)機(jī)制，讓系統(tǒng)的入口流量和系統(tǒng)的負(fù)載達(dá)到一個平衡，保證系統(tǒng)在能力范圍之內(nèi)處理最多的請求。需要注意的是，Sentinel在系統(tǒng)負(fù)載保護(hù)方面的判斷機(jī)制是根據(jù)系統(tǒng)能夠處理的請求，和允許進(jìn)來的請求，來做平衡，而不是根據(jù)一個間接的指標(biāo)（系統(tǒng)load）來做限流。因為我們最終追求的目標(biāo)是在系統(tǒng)不被拖垮的情況下，提高系統(tǒng)的吞吐率，而不是load一定要到低于某個閥值。

三、一個好的流量管理框架應(yīng)該具備哪些特點？

? 輕巧
輕巧指的是對性能影響小和對應(yīng)用零入侵。

限流框架是寄宿在應(yīng)用上的，這時候要求限流框架不能對系統(tǒng)資源有過多的消耗。就像汽車上的安全氣囊如果會耗油、導(dǎo)致汽車跑得慢，這就不是一個好氣囊，Sentinel的接入對系統(tǒng)資源的消耗極少。

除了對性能的影響要優(yōu)化到最低以外，還有一個特征，就是需要保證他對應(yīng)用的零入侵。零入侵是讓開發(fā)者幾乎意識不到這個框架的存在。如果讓開發(fā)者一邊開發(fā)，一邊還要想著限流降級，這就非常累了。優(yōu)秀的限流就像是汽車上的安全氣囊，平時系統(tǒng)工作正常的時候我們感受不到他的存在，只有當(dāng)系統(tǒng)出現(xiàn)無法應(yīng)對當(dāng)前流量的時候，才會出現(xiàn)，這就是對應(yīng)用零入侵的體現(xiàn)，開發(fā)者無需關(guān)心如何接入流量框架，便可調(diào)用服務(wù)。

對此，Sentinel通過對主流框架，例如Dubbo、Spring Cloud, grpc等，進(jìn)行默認(rèn)適配，只要接入我們的適配器，默認(rèn)的資源就都有了；如果不是用主流框架，也沒有關(guān)系，只需要很簡單，差不多3步，就可以接入，之后還會提供annotation，讓用戶更簡單的用起來。

? 專業(yè)
不同的場景下有不同的限流需求。在什么時候減流量，流量減多了影響用戶體驗、流量減少了影響系統(tǒng)穩(wěn)定性，陡峭高峰如何限流、銷峰填谷如何限流，這里就涉及到限流的算法。不同于 hystrix 只提供一兩個維度的限流方式，Sentinel提供了一個靈活的框架，從不同的維度出發(fā)，開發(fā)者可以根據(jù)自身的場景去制定自己的限流策略。

? 實時監(jiān)控
流量具有很強(qiáng)的實時性，之所以需要限流，是因為我們無法對流量的到來作出精確的預(yù)判，不然的話我們完全可以通過彈性的計算資源來處理，所以這時候限流框架的實時監(jiān)控功能就非常重要了。通過Sentinel的實時監(jiān)控功能，運維人員可以根據(jù)實際流量情況，采取不同的措施，限流、降級、塑形、系統(tǒng)保護(hù)，所以在我們第一版開源版本中，我們加入了Sentinel的控制臺，具備實時監(jiān)控功能。

四、Sentinal 的最佳實踐

? Dubbo service

我們已經(jīng)把 Sentinel 的適配器捐給了Dubbo，社區(qū)傳送門

如果開發(fā)者接入了Dubbo Sentinel，就能立即實現(xiàn)實時秒級監(jiān)控的功能。這個監(jiān)控提供單機(jī)鏈路維度和單機(jī)平鋪維度，還提供匯總維度的監(jiān)控。非常方便。

然后我們再來看Sentinel還帶來了什么好處。當(dāng)我們?yōu)g覽一件商品時，背后可能應(yīng)對著上百個服務(wù)，例如商品屬性、商品庫存、個人信息、評價信息、店鋪信息、商品優(yōu)惠、訂單信息、交易信息、推薦信息等等，這類場景，我們可以由兩個維度來看Sentinel在Dubbo service 中的實踐，一個是從服務(wù)提供方service provider如何限流，例如在百個服務(wù)中要保證交易服務(wù)可以正常處理，那就可以通過容量或者并發(fā)量來限流。一個是從服務(wù)調(diào)用方service caller如何限流，則可以通過熔斷降級來限流。

? RocketMQ客戶端 & RocketMQ服務(wù)端

圖中紅色曲線是表示實際的消息流量，紅色區(qū)域是超出我們處理能力的消息流量，這時候借助Sentinel對流量實施削峰填谷，把紅色流量放到系統(tǒng)不太繁忙的時候再來處理，這樣既不會丟失流量的請求，也不會對用戶的購物體驗產(chǎn)生影響。這類處理在電商的訂單處理等環(huán)節(jié)很常見。在RocketMQ的服務(wù)端，消息的分發(fā)者則可以通過Sentinel勻速的對外發(fā)送請求。

這個最佳實踐，我們也捐給了Apache RocketMQ，目前正在合并，大家很快就可以看到。

? Nacos

Sentinel和Nacos類似，是以Dubbo大生態(tài)中的核心組件的身份來對外開源的，目的是幫助開發(fā)者獲得更完整的分布式服務(wù)解決方案。例如當(dāng)我們限流的流量發(fā)生變化的時候，我們需要迅速推規(guī)則的時候，Sentinel可以和Nacos相互整合，起到快速操作、快速配送的效果。

Sentinel的理念是無縫對接Dubbo大生態(tài)，和Dubbo、Nacos等阿里中間件開源產(chǎn)品緊密結(jié)合，支持一鍵使用，并且全面擁抱開源生態(tài)，例如會對grpc ,Rest Service主流框架進(jìn)行積極適配并開放出來，同時提供一系列API給到開發(fā)者，用于定制自己的需求。

原文鏈接

本文為云棲社區(qū)原創(chuàng)內(nèi)容，未經(jīng)允許不得轉(zhuǎn)載。