凌晨10:00，源站缓存刚预热，入口流量却在5秒内从800 QPS冲到2万QPS。连接池占满，接口延迟由80毫秒升至数秒；上游自动重试后，局部高峰可能拖垮整个源站。限流不是粗暴拒绝，而是划定可持续速率、突发边界和调用方之间的资源分配规则。
如果你正在选机器，或者想先把线路和配置跑通再谈长期方案，可以先看看这几家的线路说明和技术参数：恒创科技（香港及亚太数据中心，原生 IP 线路），先看清带宽线路、流量策略和退款条款，再决定要不要迁。
一、令牌桶与漏桶如何承接突发流量
令牌桶算法以每秒补充r枚令牌、容量B描述准入：取到令牌才放行。稳定状态受r约束，瞬间最多放过B个请求，可承接短峰并补偿冷启动。漏桶算法按固定速率r匀速放行，多余请求进入长度Q的队列；输出更平滑，但超过Q的请求应立即拒绝或降级。
两者解决的不是同一个问题。令牌桶控制“平均进入速度加短峰容量”，漏桶控制“离开速度加可容忍积压”。下游只能承受固定处理节奏时，漏桶利于削峰；业务允许短峰却不能久排时，令牌桶更合适。
突发容量B可先按合法突发时长Δ取r×Δ，再依据调用链和缓存命中率留余量；队列上限Q应受最坏排队延迟约束，可由可接受延迟L除以单请求服务时间估算。Q过大，限流会变成长尾延迟；Q过小，又会过早拒绝本可削平的峰值。
二、从流量证据判断算法与参数
判断参数先看实测，不套固定比例。记录秒级流量、p95与p99延迟、CPU、连接池和队列水位，用压测确定可持续速率r；生产值须为扩缩容、热点键和GC停顿留出余量。多节点各自发令牌，也会放大入口总量。
按目标定算法：保护源站并接纳短峰，选令牌桶；平滑下游且允许有限等待，选漏桶。固定速率r应低于压测稳定水位，而不是贴着极限设置；队列上限Q还应小于“上游超时减去下游处理时间”的预算。
限流公平性要落在限流键上。按租户、用户或接口分桶，能防止单个大客户占满资源；核心租户可用权重或独立桶，但权重过高仍会挤压普通流量。较稳妥的做法是全局桶控制总量、局部桶约束单租户，并让429响应携带可重试时间。
常见坑包括：客户端收到拒绝后同步重试，形成重试风暴；限流键过粗，让正常用户与失控脚本共享资源；分布式令牌受时钟偏差或刷新延迟影响，使各节点放行量偏离设计值。对策是加入随机退避、细分限流键，并按实测流量定期校准r、B和Q。
令牌桶与漏桶的工程取舍
令牌桶允许一定程度的突发流量：桶中积累的令牌可以在一段时间内被快速取走，因此更适合 API 网关、秒杀入口以及普通 Web 服务。漏桶则按照固定速率平滑输出，突发请求会进入等待队列或被丢弃，更适合需要稳定处理能力的下游系统。两者都可以按 IP、用户、接口或租户维度限流，但应避免把单一 IP 作为唯一依据，否则在 NAT、公司出口或代理网络下，很容易出现误伤。
参数设计不能只看一个数值。令牌桶的容量决定最大突发量，补充速率决定长期平均吞吐；漏桶的出桶速率决定系统实际处理能力，队列长度决定可接受的等待时间和积压规模。实践中可以先以服务实测承载能力为基准，再预留 10%～30% 余量，并结合业务优先级设置不同桶或队列。对于登录、支付等关键接口，应采用更严格且可观测的策略；对于图片、报表等非关键请求，可以允许更大的短时峰值。
常见误配与调优方法
最常见的坑是只配置限流数值，却没有配置降级、响应头或日志。结果是客户端只能看到模糊的超时，服务端也无法判断请求究竟是被拒绝、排队过久，还是下游响应缓慢。应明确返回 429，并携带 Retry-After 或等价信息，同时记录限流维度、当前令牌或队列长度、请求来源和规则版本。
另一个坑是把所有请求都放入同一个全局桶，造成高流量接口挤占低流量接口。更合理的方式是按资源和业务域拆分配额，并设置全局上限作为最终保护。对于分布式部署，单机令牌桶只能限制单个实例，扩容后总流量可能成倍增加；此时应使用 Redis、网关集中计数或一致性限流方案。还要注意多级限流的叠加效应，内层规则过严时，外层令牌可能尚未耗尽，请求就已经被拒绝。
调优时应分别压测平均流量、突发流量和慢请求场景，观察 P95/P99 延迟、拒绝率、队列等待时间、CPU、内存及下游连接数。参数不要一次大幅调整，可采用小步变更并设置自动回滚阈值。限流公平性也不是绝对平均：应优先保证关键租户和关键接口，同时允许正常租户按配额共享剩余容量。对于同一用户的多实例请求，应使用稳定键值，避免因负载均衡随机分配而获得额外额度。
可执行检查清单
上线前逐项确认：是否已测出下游在可接受延迟下的最大处理能力；令牌桶容量是否与允许的突发时长和峰值相匹配；漏桶队列是否设置上限、超时和满载丢弃策略；限流维度是否覆盖来源、用户、接口和租户；分布式环境是否使用共享计数或网关统一执行；429 响应、超时、重试退避和降级路径是否完整；监控面板是否展示流量、拒绝、等待、延迟及规则命中率；参数是否支持灰度、快速回滚和定期复核；是否存在绕过限流的备用域名、内部调用或异步入口。上线后持续观察至少一个完整业务周期，依据真实峰值和租户分布调整容量，并保留变更记录与压测结果。
喜欢 
顶
难过
囧
围观
无聊
