流控算法详解

2024-09-03 03:28
文章标签 算法 详解 流控

本文主要是介绍流控算法详解,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

概述

流控指控制系统流量的平均速度,一般会为系统设置一个阀值,对阀值内的流量正常处理,如果流量超过这个值,就对超出阀值部分的流量进行拒绝或丢弃操作,保障系统不被冲量冲垮

工作中常用的流控算法有固定窗口算法、漏桶算法和令牌桶算法


固定窗口算法

固定窗口算法指设定一个时间窗口,给这个时间窗口设定一个阈值,同时实时统计用户在这个时问窗口上的流量,当用户的流量达到阈值时对用户的流量进行限流,在时间窗口到期后重新创建一个时间窗口重新统计

固定窗口算法存在漏洞:当有很多用户请求都调用失败,等待窗口到期时,一旦窗口,则大量的用户请求涌入,进而形成“消息踩踏”事件。比如时间窗口为 10s、窗口大小为 1000 条,在 5s 左右客户端使用完了所有请求流量,这时所有客户端请求都将处于 Block 状态。时间窗口到期后,系统会重新创建一时间窗口。由于新创建的时间窗口的流量从零开始统计,所以刚才处于 Block 状态的客户端请求立即涌入系统,形成“消息踩踏”事件

所以,时间窗口能够保障各个窗口的流量均等,但是对于窗口内部的某个时刻突发流量上涨的情况,时间窗口算法不能很好地限流


漏桶算法

漏桶算法主要用于控制流量速度,应对突发流量。当用户请求系统时,首先将用户请求放在一个漏桶,处理器从漏桶以一定的速度获取数据并处理请求,当请求量过大且超过漏桶容量时,桶内的流量会直接溢出,丢弃超出漏桶容量的流量

我们可以将漏桶算法简单理解为一个先进先出的消息队列,当队列填满数据时,请求将被抛弃。队列不保证某个时间点内的请求一定会得到处理,往往是在系统一段时间内的处理能力有限时,起到削蜂填谷的作用


令牌桶算法

令牌桶算法首先会创建一个桶用于存放令牌,每秒会有 x 个令牌被放入桶中,最多存放 n 个令牌,如果桶满了,那么新到来的令牌会被丢弃。每收到一个请求,就从令牌桶中获取一个令牌,如果获取到令牌就对请求进行处理。如果在令牌桶中没有可用的令牌,就把这些请求丢弃

在令牌桶算法中,只要在令牌桶中存在可用的令牌,就允许突发流量的到来,直到流量达到用户配置的限额。所以比起漏桶算法,采用令牌桶算法能应对突发流量的情况

这篇关于流控算法详解的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1131891

相关文章

MySQL数据库双机热备的配置方法详解

《MySQL数据库双机热备的配置方法详解》在企业级应用中,数据库的高可用性和数据的安全性是至关重要的,MySQL作为最流行的开源关系型数据库管理系统之一,提供了多种方式来实现高可用性,其中双机热备(M... 目录1. 环境准备1.1 安装mysql1.2 配置MySQL1.2.1 主服务器配置1.2.2 从

Linux kill正在执行的后台任务 kill进程组使用详解

《Linuxkill正在执行的后台任务kill进程组使用详解》文章介绍了两个脚本的功能和区别,以及执行这些脚本时遇到的进程管理问题,通过查看进程树、使用`kill`命令和`lsof`命令,分析了子... 目录零. 用到的命令一. 待执行的脚本二. 执行含子进程的脚本,并kill2.1 进程查看2.2 遇到的

MyBatis常用XML语法详解

《MyBatis常用XML语法详解》文章介绍了MyBatis常用XML语法,包括结果映射、查询语句、插入语句、更新语句、删除语句、动态SQL标签以及ehcache.xml文件的使用,感兴趣的朋友跟随小... 目录1、定义结果映射2、查询语句3、插入语句4、更新语句5、删除语句6、动态 SQL 标签7、ehc

详解SpringBoot+Ehcache使用示例

《详解SpringBoot+Ehcache使用示例》本文介绍了SpringBoot中配置Ehcache、自定义get/set方式,并实际使用缓存的过程,文中通过示例代码介绍的非常详细,对大家的学习或者... 目录摘要概念内存与磁盘持久化存储:配置灵活性:编码示例引入依赖:配置ehcache.XML文件:配置

从基础到高级详解Go语言中错误处理的实践指南

《从基础到高级详解Go语言中错误处理的实践指南》Go语言采用了一种独特而明确的错误处理哲学,与其他主流编程语言形成鲜明对比,本文将为大家详细介绍Go语言中错误处理详细方法,希望对大家有所帮助... 目录1 Go 错误处理哲学与核心机制1.1 错误接口设计1.2 错误与异常的区别2 错误创建与检查2.1 基础

k8s按需创建PV和使用PVC详解

《k8s按需创建PV和使用PVC详解》Kubernetes中,PV和PVC用于管理持久存储,StorageClass实现动态PV分配,PVC声明存储需求并绑定PV,通过kubectl验证状态,注意回收... 目录1.按需创建 PV(使用 StorageClass)创建 StorageClass2.创建 PV

Python版本信息获取方法详解与实战

《Python版本信息获取方法详解与实战》在Python开发中,获取Python版本号是调试、兼容性检查和版本控制的重要基础操作,本文详细介绍了如何使用sys和platform模块获取Python的主... 目录1. python版本号获取基础2. 使用sys模块获取版本信息2.1 sys模块概述2.1.1

一文详解Python如何开发游戏

《一文详解Python如何开发游戏》Python是一种非常流行的编程语言,也可以用来开发游戏模组,:本文主要介绍Python如何开发游戏的相关资料,文中通过代码介绍的非常详细,需要的朋友可以参考下... 目录一、python简介二、Python 开发 2D 游戏的优劣势优势缺点三、Python 开发 3D

Redis 基本数据类型和使用详解

《Redis基本数据类型和使用详解》String是Redis最基本的数据类型,一个键对应一个值,它的功能十分强大,可以存储字符串、整数、浮点数等多种数据格式,本文给大家介绍Redis基本数据类型和... 目录一、Redis 入门介绍二、Redis 的五大基本数据类型2.1 String 类型2.2 Hash

Java中的.close()举例详解

《Java中的.close()举例详解》.close()方法只适用于通过window.open()打开的弹出窗口,对于浏览器的主窗口,如果没有得到用户允许是不能关闭的,:本文主要介绍Java中的.... 目录当你遇到以下三种情况时,一定要记得使用 .close():用法作用举例如何判断代码中的 input