高併發
1.概念
高併發,從字面上講,就是在某一時刻產生大量的請求。它不止是一個數字,更是一種架構思維模式。
2.性能(基礎)
包括4個性能指標:
- 每秒能夠處理的事務數(TPS)
- 每秒請求數量(RPS)
- 響應時長(RT)
- 同時請求用户數(VU)
3.限制(設計)
3.1限流
在一個時間窗口內,對請求進行速率控制
3.2降頻
在一個時間窗口內,對同一特徵的請求進行速率控制
3.3降級
當應用系統處理超載時,對其服務進行裁剪的一種機制
區分核心服務步驟: - 將服務分類
- 初步挑選核心服務
- 梳理關鍵服務路徑
- 合併、去重
- 識別更核心部分,重組服務清單
4.取捨(權衡)
是通過犧牲一種能力來換取另一種能力的能力。包括數據緩存和單機限流。