【Redis】获取没有设置ttl的key脚本

2024-06-17 09:32

本文主要是介绍【Redis】获取没有设置ttl的key脚本,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

一 前言
在运维Redis的时候,总会遇到使用不规范的业务设计,比如没有对key设置ttl,进而导致内存空间吃紧,通常的解决方法是在slave上dump 出来所有的key ,然后对文件进行遍历再分析。遇到几十G的Redis实例,dump + 分析 会是一个比较耗时的操作,为此,我开发了一个小脚本直接连接Redis 进行scan 遍历所有的key,然后在检查key的ttl,将没有ttl的key输出到指定的文件里面。

二 代码实现


# encoding: utf-8
"""
author: yangyi@youzan.com
time: 2018/4/26 下午4:34
func: 获取数据库中没有设置ttl的 key
"""
import redis
import argparse
import time
import sysclass ShowProcess:"""显示处理进度的类调用该类相关函数即可实现处理进度的显示"""i = 0 # 当前的处理进度max_steps = 0 # 总共需要处理的次数max_arrow = 50 # 进度条的长度# 初始化函数,需要知道总共的处理次数def __init__(self, max_steps):self.max_steps = max_stepsself.i = 0# 显示函数,根据当前的处理进度i显示进度# 效果为[>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>]100.00%def show_process(self, i = None):if i is not None:self.i = ielse:self.i += 1num_arrow = int(self.i * self.max_arrow / self.max_steps) # 计算显示多少个'>'num_line = self.max_arrow - num_arrow # 计算显示多少个'-'percent = self.i * 100.0 / self.max_steps # 计算完成进度,格式为xx.xx%process_bar = '[' + '>' * num_arrow + ' ' * num_line + ']'\+ '%.2f' % percent + '%' + '\r' # 带输出的字符串,'\r'表示不换行回到最左边sys.stdout.write(process_bar) # 这两句打印字符到终端sys.stdout.flush()def close(self, words='done'):print ''print wordsself.i = 0def check_ttl(redis_conn, no_ttl_file, dbindex):start_time = time.time()no_ttl_num = 0keys_num = redis_conn.dbsize()print "there are {num} keys in db {index} ".format(num=keys_num, index=dbindex)process_bar = ShowProcess(keys_num)with open(no_ttl_file, 'a') as f:for key in redis_conn.scan_iter(count=1000):process_bar.show_process()if redis_conn.ttl(key) == -1:no_ttl_num += 1if no_ttl_num < 1000:f.write(key+'\n')else:continueprocess_bar.close()print "cost time(s):", time.time() - start_timeprint "no ttl keys number:", no_ttl_numprint "we write keys with no ttl to the file: %s" % no_ttl_filedef main():parser = argparse.ArgumentParser()parser.add_argument('-p', type=int, dest='port', action='store', help='port of redis ')parser.add_argument('-d', type=str, dest='db_list', action='store', default=0,help='ex : -d all / -d 1,2,3,4 ')args = parser.parse_args()port = args.portif args.db_list == 'all':db_list = [i for i in xrange(0, 16)]else:db_list = [int(i) for i in args.db_list.split(',')]for index in db_list:try:pool = redis.ConnectionPool(host='127.0.0.1', port=port, db=index)r = redis.StrictRedis(connection_pool=pool)except redis.exceptions.ConnectionError as e:print eelse:no_ttl_keys_file = "/tmp/{port}_{db}_no_ttl_keys.txt".format(port=port, db=index)check_ttl(r, no_ttl_keys_file, index)if __name__ == '__main__':main()

注意:
代码里面对没有ttl的key的输出做了限制,大家使用的时候可以调整阈值 或者去掉 全部输出到指定的文件里面。欢迎大家使用,并给出功能或者算法上的改进措施。

这篇关于【Redis】获取没有设置ttl的key脚本的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1069074

相关文章

Python版本信息获取方法详解与实战

《Python版本信息获取方法详解与实战》在Python开发中,获取Python版本号是调试、兼容性检查和版本控制的重要基础操作,本文详细介绍了如何使用sys和platform模块获取Python的主... 目录1. python版本号获取基础2. 使用sys模块获取版本信息2.1 sys模块概述2.1.1

Redis 基本数据类型和使用详解

《Redis基本数据类型和使用详解》String是Redis最基本的数据类型,一个键对应一个值,它的功能十分强大,可以存储字符串、整数、浮点数等多种数据格式,本文给大家介绍Redis基本数据类型和... 目录一、Redis 入门介绍二、Redis 的五大基本数据类型2.1 String 类型2.2 Hash

Redis中Hash从使用过程到原理说明

《Redis中Hash从使用过程到原理说明》RedisHash结构用于存储字段-值对,适合对象数据,支持HSET、HGET等命令,采用ziplist或hashtable编码,通过渐进式rehash优化... 目录一、开篇:Hash就像超市的货架二、Hash的基本使用1. 常用命令示例2. Java操作示例三

Redis中Set结构使用过程与原理说明

《Redis中Set结构使用过程与原理说明》本文解析了RedisSet数据结构,涵盖其基本操作(如添加、查找)、集合运算(交并差)、底层实现(intset与hashtable自动切换机制)、典型应用场... 目录开篇:从购物车到Redis Set一、Redis Set的基本操作1.1 编程常用命令1.2 集

Redis中的有序集合zset从使用到原理分析

《Redis中的有序集合zset从使用到原理分析》Redis有序集合(zset)是字符串与分值的有序映射,通过跳跃表和哈希表结合实现高效有序性管理,适用于排行榜、延迟队列等场景,其时间复杂度低,内存占... 目录开篇:排行榜背后的秘密一、zset的基本使用1.1 常用命令1.2 Java客户端示例二、zse

Redis中的AOF原理及分析

《Redis中的AOF原理及分析》Redis的AOF通过记录所有写操作命令实现持久化,支持always/everysec/no三种同步策略,重写机制优化文件体积,与RDB结合可平衡数据安全与恢复效率... 目录开篇:从日记本到AOF一、AOF的基本执行流程1. 命令执行与记录2. AOF重写机制二、AOF的

java中判断json key是否存在的几种方法

《java中判断jsonkey是否存在的几种方法》在使用Java处理JSON数据时,如何判断某一个key是否存在?本文就来介绍三种方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的... 目http://www.chinasem.cn录第一种方法是使用 jsONObject 的 has 方法

Java发送SNMP至交换机获取交换机状态实现方式

《Java发送SNMP至交换机获取交换机状态实现方式》文章介绍使用SNMP4J库(2.7.0)通过RCF1213-MIB协议获取交换机单/多路状态,需开启SNMP支持,重点对比SNMPv1、v2c、v... 目录交换机协议SNMP库获取交换机单路状态获取交换机多路状态总结交换机协议这里使用的交换机协议为常

Java实现为PDF设置背景色和背景图片

《Java实现为PDF设置背景色和背景图片》在日常的文档处理中,PDF格式因其稳定性和跨平台兼容性而广受欢迎,本文将深入探讨如何利用Spire.PDFforJava库,以简洁高效的方式为你的PDF文档... 目录库介绍与安装步骤Java 给 PDF 设置背景颜色Java 给 PDF 设置背景图片总结在日常的

C#中通过Response.Headers设置自定义参数的代码示例

《C#中通过Response.Headers设置自定义参数的代码示例》:本文主要介绍C#中通过Response.Headers设置自定义响应头的方法,涵盖基础添加、安全校验、生产实践及调试技巧,强... 目录一、基础设置方法1. 直接添加自定义头2. 批量设置模式二、高级配置技巧1. 安全校验机制2. 类型