什么是服务限流？
什么是服务限流？
回答重点
服务限流是一种流量控制策略，它通过限制每秒请求的数量（QPS）、请求频率、并发数等，来保护服务的处理能力，防止系统因为流量过大而出现性能问题或资源耗尽。
服务限流可以认为是服务降级的一种，限流就是通过限制系统请求的输入和输出，从而实现对于系统的保护，这个和降级的概念很像，都是为了保证核心功能的正常运行。
限流是因为服务的吞吐量以及负载这些都是可以预估的，我们为了保证系统的正常运行，可以设置限制的阈值，即通过限制输入或者输出的方式来减少流量的流通，然后实现对于系统的保护。
限流有很多种实现方案，比如我们说的限流算法、延迟解决、拒绝解决等等，保证请求的范围在系统可以接受的阈值以内，实现对系统的保护。
扩展知识
常见的限流算法
常见的限流工具和框架
Guava RateLimiter：
- 简介：Google 的 Guava 库提供了基于令牌桶算法的限流工具
RateLimiter。开发者可以通过RateLimiter.create()方法来设置每秒生成的令牌数，控制请求的速率。 - 使用场景：适用于单个应用实例的限流，能够对某个接口或方法的调用频率进行限制。
- 优点：实现简单，适合于 Java 项目，轻量且易于集成。
Sentinel：
- 简介：Sentinel 是阿里巴巴开源的服务治理框架，支持限流、熔断、降级等功能，具有强大的实时流量控制能力。
- 使用场景：适合于 Spring Cloud 和 Spring Boot 项目，可以对微服务进行全局的限流和降级控制。
- 优点：提供可视化监控，限流规则灵活，适合大规模微服务架构。
Nginx：
- 简介：Nginx 是一种高性能的 HTTP 服务器和反向代理服务器，支持通过配置限流模块来限制每秒请求数（QPS）。
- 使用场景：适用于对 API 网关层面的限流控制，能够在流量进入后端服务之前就进行初步的限流处理。
- 优点：适合对全局流量进行控制，减少后端服务的负载压力。
服务限流的应用场景
电商系统中的秒杀活动：
- 在电商系统中，秒杀活动时会有大量用户瞬间访问，容易导致服务不可用。通过限流，可以控制每秒允许的下单数量，防止订单服务被流量冲垮。
- 限流策略：可以使用令牌桶算法，让下单请求通过获取令牌进行控制，超出速率的请求则提示“秒杀活动火爆，请稍后再试”。
API 网关限流：
- 在微服务架构中，API 网关作为所有请求的入口，需要承受巨大的访问压力。通过在 API 网关层面进行限流，可以有效保护后端服务免受高流量的冲击。
- 限流策略：在 API 网关上配置固定时间窗口限流策略，限制每秒允许的最大请求数，超过阈值的请求直接返回 HTTP 429 状态码。
防止恶意爬虫：
- 对于一些公开接口，可能会受到恶意爬虫的频繁请求，影响系统的正常服务。通过限流，可以限制单个 IP 的访问频率，防止系统被恶意爬虫占用带宽和计算资源。
- 限流策略：可以使用漏桶算法，对单个 IP 每秒可以访问的次数进行限制，超过速率的请求会被丢弃。
Comments