【Redis】获取没有设置ttl的key脚本

2024-06-17 09:32

本文主要是介绍【Redis】获取没有设置ttl的key脚本,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

一 前言
在运维Redis的时候,总会遇到使用不规范的业务设计,比如没有对key设置ttl,进而导致内存空间吃紧,通常的解决方法是在slave上dump 出来所有的key ,然后对文件进行遍历再分析。遇到几十G的Redis实例,dump + 分析 会是一个比较耗时的操作,为此,我开发了一个小脚本直接连接Redis 进行scan 遍历所有的key,然后在检查key的ttl,将没有ttl的key输出到指定的文件里面。

二 代码实现


# encoding: utf-8
"""
author: yangyi@youzan.com
time: 2018/4/26 下午4:34
func: 获取数据库中没有设置ttl的 key
"""
import redis
import argparse
import time
import sysclass ShowProcess:"""显示处理进度的类调用该类相关函数即可实现处理进度的显示"""i = 0 # 当前的处理进度max_steps = 0 # 总共需要处理的次数max_arrow = 50 # 进度条的长度# 初始化函数,需要知道总共的处理次数def __init__(self, max_steps):self.max_steps = max_stepsself.i = 0# 显示函数,根据当前的处理进度i显示进度# 效果为[>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>]100.00%def show_process(self, i = None):if i is not None:self.i = ielse:self.i += 1num_arrow = int(self.i * self.max_arrow / self.max_steps) # 计算显示多少个'>'num_line = self.max_arrow - num_arrow # 计算显示多少个'-'percent = self.i * 100.0 / self.max_steps # 计算完成进度,格式为xx.xx%process_bar = '[' + '>' * num_arrow + ' ' * num_line + ']'\+ '%.2f' % percent + '%' + '\r' # 带输出的字符串,'\r'表示不换行回到最左边sys.stdout.write(process_bar) # 这两句打印字符到终端sys.stdout.flush()def close(self, words='done'):print ''print wordsself.i = 0def check_ttl(redis_conn, no_ttl_file, dbindex):start_time = time.time()no_ttl_num = 0keys_num = redis_conn.dbsize()print "there are {num} keys in db {index} ".format(num=keys_num, index=dbindex)process_bar = ShowProcess(keys_num)with open(no_ttl_file, 'a') as f:for key in redis_conn.scan_iter(count=1000):process_bar.show_process()if redis_conn.ttl(key) == -1:no_ttl_num += 1if no_ttl_num < 1000:f.write(key+'\n')else:continueprocess_bar.close()print "cost time(s):", time.time() - start_timeprint "no ttl keys number:", no_ttl_numprint "we write keys with no ttl to the file: %s" % no_ttl_filedef main():parser = argparse.ArgumentParser()parser.add_argument('-p', type=int, dest='port', action='store', help='port of redis ')parser.add_argument('-d', type=str, dest='db_list', action='store', default=0,help='ex : -d all / -d 1,2,3,4 ')args = parser.parse_args()port = args.portif args.db_list == 'all':db_list = [i for i in xrange(0, 16)]else:db_list = [int(i) for i in args.db_list.split(',')]for index in db_list:try:pool = redis.ConnectionPool(host='127.0.0.1', port=port, db=index)r = redis.StrictRedis(connection_pool=pool)except redis.exceptions.ConnectionError as e:print eelse:no_ttl_keys_file = "/tmp/{port}_{db}_no_ttl_keys.txt".format(port=port, db=index)check_ttl(r, no_ttl_keys_file, index)if __name__ == '__main__':main()

注意:
代码里面对没有ttl的key的输出做了限制,大家使用的时候可以调整阈值 或者去掉 全部输出到指定的文件里面。欢迎大家使用,并给出功能或者算法上的改进措施。

这篇关于【Redis】获取没有设置ttl的key脚本的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1069074

相关文章

Redis 的 SUBSCRIBE命令详解

《Redis的SUBSCRIBE命令详解》Redis的SUBSCRIBE命令用于订阅一个或多个频道,以便接收发送到这些频道的消息,本文给大家介绍Redis的SUBSCRIBE命令,感兴趣的朋友跟随... 目录基本语法工作原理示例消息格式相关命令python 示例Redis 的 SUBSCRIBE 命令用于订

python获取指定名字的程序的文件路径的两种方法

《python获取指定名字的程序的文件路径的两种方法》本文主要介绍了python获取指定名字的程序的文件路径的两种方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要... 最近在做项目,需要用到给定一个程序名字就可以自动获取到这个程序在Windows系统下的绝对路径,以下

Linux下MySQL数据库定时备份脚本与Crontab配置教学

《Linux下MySQL数据库定时备份脚本与Crontab配置教学》在生产环境中,数据库是核心资产之一,定期备份数据库可以有效防止意外数据丢失,本文将分享一份MySQL定时备份脚本,并讲解如何通过cr... 目录备份脚本详解脚本功能说明授权与可执行权限使用 Crontab 定时执行编辑 Crontab添加定

SpringBoot 获取请求参数的常用注解及用法

《SpringBoot获取请求参数的常用注解及用法》SpringBoot通过@RequestParam、@PathVariable等注解支持从HTTP请求中获取参数,涵盖查询、路径、请求体、头、C... 目录SpringBoot 提供了多种注解来方便地从 HTTP 请求中获取参数以下是主要的注解及其用法:1

sky-take-out项目中Redis的使用示例详解

《sky-take-out项目中Redis的使用示例详解》SpringCache是Spring的缓存抽象层,通过注解简化缓存管理,支持Redis等提供者,适用于方法结果缓存、更新和删除操作,但无法实现... 目录Spring Cache主要特性核心注解1.@Cacheable2.@CachePut3.@Ca

MySQL中On duplicate key update的实现示例

《MySQL中Onduplicatekeyupdate的实现示例》ONDUPLICATEKEYUPDATE是一种MySQL的语法,它在插入新数据时,如果遇到唯一键冲突,则会执行更新操作,而不是抛... 目录1/ ON DUPLICATE KEY UPDATE的简介2/ ON DUPLICATE KEY UP

Redis实现高效内存管理的示例代码

《Redis实现高效内存管理的示例代码》Redis内存管理是其核心功能之一,为了高效地利用内存,Redis采用了多种技术和策略,如优化的数据结构、内存分配策略、内存回收、数据压缩等,下面就来详细的介绍... 目录1. 内存分配策略jemalloc 的使用2. 数据压缩和编码ziplist示例代码3. 优化的

redis-sentinel基础概念及部署流程

《redis-sentinel基础概念及部署流程》RedisSentinel是Redis的高可用解决方案,通过监控主从节点、自动故障转移、通知机制及配置提供,实现集群故障恢复与服务持续可用,核心组件包... 目录一. 引言二. 核心功能三. 核心组件四. 故障转移流程五. 服务部署六. sentinel部署

基于Redis自动过期的流处理暂停机制

《基于Redis自动过期的流处理暂停机制》基于Redis自动过期的流处理暂停机制是一种高效、可靠且易于实现的解决方案,防止延时过大的数据影响实时处理自动恢复处理,以避免积压的数据影响实时性,下面就来详... 目录核心思路代码实现1. 初始化Redis连接和键前缀2. 接收数据时检查暂停状态3. 检测到延时过

Redis实现分布式锁全过程

《Redis实现分布式锁全过程》文章介绍Redis实现分布式锁的方法,包括使用SETNX和EXPIRE命令确保互斥性与防死锁,Redisson客户端提供的便捷接口,以及Redlock算法通过多节点共识... 目录Redis实现分布式锁1. 分布式锁的基本原理2. 使用 Redis 实现分布式锁2.1 获取锁