流控算法详解

2024-09-03 03:28
文章标签 算法 详解 流控

本文主要是介绍流控算法详解,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

概述

流控指控制系统流量的平均速度,一般会为系统设置一个阀值,对阀值内的流量正常处理,如果流量超过这个值,就对超出阀值部分的流量进行拒绝或丢弃操作,保障系统不被冲量冲垮

工作中常用的流控算法有固定窗口算法、漏桶算法和令牌桶算法


固定窗口算法

固定窗口算法指设定一个时间窗口,给这个时间窗口设定一个阈值,同时实时统计用户在这个时问窗口上的流量,当用户的流量达到阈值时对用户的流量进行限流,在时间窗口到期后重新创建一个时间窗口重新统计

固定窗口算法存在漏洞:当有很多用户请求都调用失败,等待窗口到期时,一旦窗口,则大量的用户请求涌入,进而形成“消息踩踏”事件。比如时间窗口为 10s、窗口大小为 1000 条,在 5s 左右客户端使用完了所有请求流量,这时所有客户端请求都将处于 Block 状态。时间窗口到期后,系统会重新创建一时间窗口。由于新创建的时间窗口的流量从零开始统计,所以刚才处于 Block 状态的客户端请求立即涌入系统,形成“消息踩踏”事件

所以,时间窗口能够保障各个窗口的流量均等,但是对于窗口内部的某个时刻突发流量上涨的情况,时间窗口算法不能很好地限流


漏桶算法

漏桶算法主要用于控制流量速度,应对突发流量。当用户请求系统时,首先将用户请求放在一个漏桶,处理器从漏桶以一定的速度获取数据并处理请求,当请求量过大且超过漏桶容量时,桶内的流量会直接溢出,丢弃超出漏桶容量的流量

我们可以将漏桶算法简单理解为一个先进先出的消息队列,当队列填满数据时,请求将被抛弃。队列不保证某个时间点内的请求一定会得到处理,往往是在系统一段时间内的处理能力有限时,起到削蜂填谷的作用


令牌桶算法

令牌桶算法首先会创建一个桶用于存放令牌,每秒会有 x 个令牌被放入桶中,最多存放 n 个令牌,如果桶满了,那么新到来的令牌会被丢弃。每收到一个请求,就从令牌桶中获取一个令牌,如果获取到令牌就对请求进行处理。如果在令牌桶中没有可用的令牌,就把这些请求丢弃

在令牌桶算法中,只要在令牌桶中存在可用的令牌,就允许突发流量的到来,直到流量达到用户配置的限额。所以比起漏桶算法,采用令牌桶算法能应对突发流量的情况

这篇关于流控算法详解的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1131891

相关文章

Redis中6种缓存更新策略详解

《Redis中6种缓存更新策略详解》Redis作为一款高性能的内存数据库,已经成为缓存层的首选解决方案,然而,使用缓存时最大的挑战在于保证缓存数据与底层数据源的一致性,本文将介绍Redis中6种缓存更... 目录引言策略一:Cache-Aside(旁路缓存)策略工作原理代码示例优缺点分析适用场景策略二:Re

Java注解之超越Javadoc的元数据利器详解

《Java注解之超越Javadoc的元数据利器详解》本文将深入探讨Java注解的定义、类型、内置注解、自定义注解、保留策略、实际应用场景及最佳实践,无论是初学者还是资深开发者,都能通过本文了解如何利用... 目录什么是注解?注解的类型内置注编程解自定义注解注解的保留策略实际用例最佳实践总结在 Java 编程

MySQL数据库约束深入详解

《MySQL数据库约束深入详解》:本文主要介绍MySQL数据库约束,在MySQL数据库中,约束是用来限制进入表中的数据类型的一种技术,通过使用约束,可以确保数据的准确性、完整性和可靠性,需要的朋友... 目录一、数据库约束的概念二、约束类型三、NOT NULL 非空约束四、DEFAULT 默认值约束五、UN

Python使用Matplotlib绘制3D曲面图详解

《Python使用Matplotlib绘制3D曲面图详解》:本文主要介绍Python使用Matplotlib绘制3D曲面图,在Python中,使用Matplotlib库绘制3D曲面图可以通过mpl... 目录准备工作绘制简单的 3D 曲面图绘制 3D 曲面图添加线框和透明度控制图形视角Matplotlib

MySQL中的分组和多表连接详解

《MySQL中的分组和多表连接详解》:本文主要介绍MySQL中的分组和多表连接的相关操作,本文通过实例代码给大家介绍的非常详细,感兴趣的朋友一起看看吧... 目录mysql中的分组和多表连接一、MySQL的分组(group javascriptby )二、多表连接(表连接会产生大量的数据垃圾)MySQL中的

Java 实用工具类Spring 的 AnnotationUtils详解

《Java实用工具类Spring的AnnotationUtils详解》Spring框架提供了一个强大的注解工具类org.springframework.core.annotation.Annot... 目录前言一、AnnotationUtils 的常用方法二、常见应用场景三、与 JDK 原生注解 API 的

redis中使用lua脚本的原理与基本使用详解

《redis中使用lua脚本的原理与基本使用详解》在Redis中使用Lua脚本可以实现原子性操作、减少网络开销以及提高执行效率,下面小编就来和大家详细介绍一下在redis中使用lua脚本的原理... 目录Redis 执行 Lua 脚本的原理基本使用方法使用EVAL命令执行 Lua 脚本使用EVALSHA命令

SpringBoot3.4配置校验新特性的用法详解

《SpringBoot3.4配置校验新特性的用法详解》SpringBoot3.4对配置校验支持进行了全面升级,这篇文章为大家详细介绍了一下它们的具体使用,文中的示例代码讲解详细,感兴趣的小伙伴可以参考... 目录基本用法示例定义配置类配置 application.yml注入使用嵌套对象与集合元素深度校验开发

Python中的Walrus运算符分析示例详解

《Python中的Walrus运算符分析示例详解》Python中的Walrus运算符(:=)是Python3.8引入的一个新特性,允许在表达式中同时赋值和返回值,它的核心作用是减少重复计算,提升代码简... 目录1. 在循环中避免重复计算2. 在条件判断中同时赋值变量3. 在列表推导式或字典推导式中简化逻辑

Java Stream流使用案例深入详解

《JavaStream流使用案例深入详解》:本文主要介绍JavaStream流使用案例详解,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录前言1. Lambda1.1 语法1.2 没参数只有一条语句或者多条语句1.3 一个参数只有一条语句或者多