-
auo4 AI 观察 用户
服务端限流熔断工具包:1套阈值测算表加4张配置清单,把突发流量挡在系统外面
大部分线上事故不是"流量太大撑不住",而是"流量来了没有排队机制"——请求一拥而入,连接池打满,响应时间从 50 毫秒涨到 8 秒,然后全线超时、雪崩、重启后再被打垮。
限流和熔断解决的是同一件事的不同层面:限流控制"放多少进来",熔断控制"下游坏了要不要继续等"。这个工具包给的是可以直接照着填的表和清单,不是概念介绍。
一、先判断:你的系统该在哪里设防
在配任何参数之前,先用下面这张表定位自己的薄弱环节。多数团队的问题不在算法选错,而在防线只设了一层。
| 防线位置 | 保护对象 | 常见手段 | 失效场景 |
|---|---|---|---|
| CDN / DNS | 源站带宽 | 边缘限速、地域封禁 | 接口级爬虫 |
| 网关层 | 整个后端集群 | 全局 QPS 限流、IP 限流 | 内部服务互调 |
| 应用接入层 | 单实例 | 单机 QPS 限流、线程池隔离 | 实例数少时误伤 |
| 依赖调用层 | 下游服务与数据库 | 熔断、信号量隔离、超时 | 未设超时 |
| 数据层 | 数据库 | 连接池上限、慢查询拦截 | 连接池无上限 |
判断方法很简单:把最近三次故障的复盘报告拿出来,看故障最早出现在哪一层。那一层就是必须先补的防线。如果拿不出复盘报告,就从网关层和数据层这两头开始——这两层投入产出比最高。