上QQ阅读APP看本书,新人免费读10天
设备和账号都新为新人
1.1.1 限流降级
假设服务A需要依赖服务B完成客户端的一次请求,如图1.1所示。这时通过压测预测服务B单节点1秒内所能处理的最大并发请求数为200个,若为服务B配置限流阈值为200 QPS,则当1秒内服务B接收的请求数超过200个时,超出的请求就会被服务B拒绝。
图1.1 限流降级
对于超出阈值的流量除直接拒绝外,还可以采取一些策略以处理更多的请求,即流量效果控制。例如,均速排队这种方式主要用于处理间隔性突发的流量,如某一秒有大量的请求到来,而接下来的几秒都处于空闲状态,这时我们希望系统能够在接下来的空闲时间内逐个处理这些请求,而不是在第一秒直接拒绝多余的请求。