redis的bigkey浅显分析

2023-10-28 20:30
文章标签 分析 redis 浅显 bigkey

本文主要是介绍redis的bigkey浅显分析,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

如何分析redis的bigkey?
现在互联网通用的缓存组件,基本上都依赖于redis,在使用redis的时候,运维团队往往会碰到一些因为bigkey导致的慢查和业务响应缓慢的问题,针对redis的bigkey如何去分析?
PS.大于10K的就被定义为大key
第一种方案:
1.通过shell脚本调用–bigkeys把实例的bigkeys分析出来
2.通过shell脚本调用–scan把实例的key通过scan拿出来在进行ttl key,确认是否设置ttl
3.最终将输出的结果放到日志文件中
4.通过filebeat-logstash-es-kibana进行展示
5.通过elastalert可针对keyvalue进行匹配告警
缺点:每次执行脚本,遇到key很多的实例,执行时间会很久
在这里插入图片描述
最终效果
在这里插入图片描述
第二种方案
1.通过aws后台将实例的备机导出rdb文件落盘到10.161.40.92上
2.通过go分析rdb文件,github项目路径:https://github.com/weiyanwei412/rdb_bigkeys/
3.执行命令 ./rdb_bigkeys --bytes 1024 --file bigkeys_test.csv --sep 0 --sorted --threads 4 /tmp/aa.rdb 将文件落盘到CSV并进行排序
4.将改CSV文件传输到ELK中展示
缺点:同上导出RDB文件比较慢,相比脚本要快点,可同步导出多个实例的rdb文件,该方法不支持5.0版本的rdb,支持老版本,目前测试成功版本是3.2.11
效果:
在这里插入图片描述

FAQ:考虑到rdb_bigkeys每次在分析rdb文件的时候,不能往一个文件输入(每次都是清空),改了代码,将内容追加输入,这样多个rdb会往一个文件输入,修改代码如下:
在这里插入图片描述
在这里插入图片描述
第三种方案:
1.通过rdb工具将实例的备机导出rdb文件落盘到机器上
2.通过redis-rdb-tools分析rdb文件,并将结果输入到csv中
3.执行命令rdb -c memory /tmp/aa.rdb --bytes 1024 -f memory.csv将结果落盘到文件
4.通过filebeat-logstash-es-kibana进行展示
缺点:很慢,没有go快
优点:支持各版本rdb
效果:
在这里插入图片描述

这篇关于redis的bigkey浅显分析的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/295764

相关文章

Redis中6种缓存更新策略详解

《Redis中6种缓存更新策略详解》Redis作为一款高性能的内存数据库,已经成为缓存层的首选解决方案,然而,使用缓存时最大的挑战在于保证缓存数据与底层数据源的一致性,本文将介绍Redis中6种缓存更... 目录引言策略一:Cache-Aside(旁路缓存)策略工作原理代码示例优缺点分析适用场景策略二:Re

慢sql提前分析预警和动态sql替换-Mybatis-SQL

《慢sql提前分析预警和动态sql替换-Mybatis-SQL》为防止慢SQL问题而开发的MyBatis组件,该组件能够在开发、测试阶段自动分析SQL语句,并在出现慢SQL问题时通过Ducc配置实现动... 目录背景解决思路开源方案调研设计方案详细设计使用方法1、引入依赖jar包2、配置组件XML3、核心配

Java NoClassDefFoundError运行时错误分析解决

《JavaNoClassDefFoundError运行时错误分析解决》在Java开发中,NoClassDefFoundError是一种常见的运行时错误,它通常表明Java虚拟机在尝试加载一个类时未能... 目录前言一、问题分析二、报错原因三、解决思路检查类路径配置检查依赖库检查类文件调试类加载器问题四、常见

redis中使用lua脚本的原理与基本使用详解

《redis中使用lua脚本的原理与基本使用详解》在Redis中使用Lua脚本可以实现原子性操作、减少网络开销以及提高执行效率,下面小编就来和大家详细介绍一下在redis中使用lua脚本的原理... 目录Redis 执行 Lua 脚本的原理基本使用方法使用EVAL命令执行 Lua 脚本使用EVALSHA命令

Python中的Walrus运算符分析示例详解

《Python中的Walrus运算符分析示例详解》Python中的Walrus运算符(:=)是Python3.8引入的一个新特性,允许在表达式中同时赋值和返回值,它的核心作用是减少重复计算,提升代码简... 目录1. 在循环中避免重复计算2. 在条件判断中同时赋值变量3. 在列表推导式或字典推导式中简化逻辑

Redis 热 key 和大 key 问题小结

《Redis热key和大key问题小结》:本文主要介绍Redis热key和大key问题小结,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录一、什么是 Redis 热 key?热 key(Hot Key)定义: 热 key 常见表现:热 key 的风险:二、

C#使用StackExchange.Redis实现分布式锁的两种方式介绍

《C#使用StackExchange.Redis实现分布式锁的两种方式介绍》分布式锁在集群的架构中发挥着重要的作用,:本文主要介绍C#使用StackExchange.Redis实现分布式锁的... 目录自定义分布式锁获取锁释放锁自动续期StackExchange.Redis分布式锁获取锁释放锁自动续期分布式

Redis Pipeline(管道) 详解

《RedisPipeline(管道)详解》Pipeline管道是Redis提供的一种批量执行命令的机制,通过将多个命令一次性发送到服务器并统一接收响应,减少网络往返次数(RTT),显著提升执行效率... 目录Redis Pipeline 详解1. Pipeline 的核心概念2. 工作原理与性能提升3. 核

redis过期key的删除策略介绍

《redis过期key的删除策略介绍》:本文主要介绍redis过期key的删除策略,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录第一种策略:被动删除第二种策略:定期删除第三种策略:强制删除关于big key的清理UNLINK命令FLUSHALL/FLUSHDB命

Redis消息队列实现异步秒杀功能

《Redis消息队列实现异步秒杀功能》在高并发场景下,为了提高秒杀业务的性能,可将部分工作交给Redis处理,并通过异步方式执行,Redis提供了多种数据结构来实现消息队列,总结三种,本文详细介绍Re... 目录1 Redis消息队列1.1 List 结构1.2 Pub/Sub 模式1.3 Stream 结