Redis key(BigKey、MoreKey)的存储策略

2024-04-19 13:36

本文主要是介绍Redis key(BigKey、MoreKey)的存储策略,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

1. MoreKey 案例

1.1 大批量往 redis 里面 插入2000w 测试数据key

(1) Linux Bash 下面执行,插入 100w

root@spray:~# for((i=1;i<=100*10000;i++)); do echo "set k$i v$i" >> /tmp/redisTest.txt;  done;

查看

root@spray:~# more /tmp/redisTest.txt

set k1 v1
set k2 v2
set k3 v3

(2) 通过redis提供的管道  --pipe  命令插入 100w 大批量数据

root@spray:~# cat /tmp/redisTest.txt | redis-cli -h 47.101.139.8  -p 6379 --pipe
All data transferred. Waiting for the last reply...
Last reply received from server.
errors: 0, replies: 1000000

查看

:6379> get k1000000
v1000000

* 企业中建议禁止使用 keys*  、 flushdb 、 flushall等命令

1.2 Scan命令 用于迭代数据库中的 数据库键

// 其中 scan 的是 游标,当游标为0时 ,遍历结束
:6379> scan  0 match k* count 5
["65536",["k578034","k899828","k667111","k720478","k115954"]
]
:6379> scan  65536 match k* count 5
["720896",["k133147","k151526","k549678","k541042","k937688","k662333","k652940","k517887"]
]

2.BigKey 案例

1.多大的key算作BigKey呢?

set k1 v1    (string    512MB)

根据阿里云 Redis 开发规范

string类型  > 大于10kb

hash、list、set、zset 其中的元素个数  >  非5000个

注意:非字符串的bigkey ,使用hscan、sscan、zscan方式删除(不建议是用del)

2. bigKey 有哪些危害

(1)内存不均、集群迁移困难

(2)网络流量阻塞

(3)超时删除,大key删除作梗

3. 如何产生

(1)社交类

        某网红的粉丝列表,粉丝数量逐步递增

(2)汇总统计

        某个报表,日月年的数据积累

4. 如何发现 bigkeys

(1)redis-cli --bigkeys

        给出每种数据类型Top 1 bigkey,同时给出每种数据类型的键值个数+平均大小

(2)memory usage 键

        对于大于10kb的key使用

root@spray:~# redis-cli -h 47.101.139.8 -p 6379 --bigkeys # Scanning the entire keyspace to find biggest keys as well as
# average sizes per key type.  You can use -i 0.1 to sleep 0.1 sec
# per 100 SCAN commands (not usually needed).[00.00%] Biggest string found so far '"k578034"' with 7 bytes
[02.06%] Biggest string found so far '"backup4"' with 72 bytes-------- summary -------[16.34%] Sampled 163375 keys in the keyspace!
Total key length in bytes is 1125560 (avg len 6.89)Biggest string found '"backup4"' has 72 bytes0 lists with 0 items (00.00% of keys, avg size 0.00)
0 hashs with 0 fields (00.00% of keys, avg size 0.00)
163375 strings with 1125625 bytes (100.00% of keys, avg size 6.89)
0 streams with 0 entries (00.00% of keys, avg size 0.00)
0 sets with 0 members (00.00% of keys, avg size 0.00)
0 zsets with 0 members (00.00% of keys, avg size 0.00)
:6379> memory usage k100
(integer) 56

3.BigKey 生产调优

        redis.conf 配置文件 LAZY FREEING 相关说明

vim /myredis/redis7.conf

Redis有两个原语来删除键。

(1)阻塞刪除命令:(默认)

        一种称为DEL,是对象的阻塞删除。
        这意味着服务器停止处理新命令,以便以同步方式回收与对象关联的所有内存。如果删除的键与一个小对象相关联,则执行DEL命令所需的时间非常短,可与大多数其他命令相媲美
Redis中的0(1)或O(log_N)命令。

        但是,如果键与包含数百万个元素的聚合值相关联,则服务器可能阻塞很长时间(甚至几秒钟)才能完成操作。

(2)非阻塞删除命令

        UNLINK非阻塞DEL以及FLUSHALL和FLUSHDB命令的ASYNC选项,以便在后台回收内存。

        这些命令在恒定时间内执行。另一个线和程将尽可能快地逐步释放后台中的对象。
FLUSHALL和FLUSHDB的DEL、UNLINK和ASYNC选项是用户控制的。这取决于应用程序的设计,以了解何时使用其中一个是个好主意。

        然而,作为其他操作的副作用,Redis服务器有时不得不删除键或刷新整个数据库。具体而言,Redis在以下场景中独立于用户调用删除对象:

 

4.面试案例:

1. 海量数据里  查询  某一固定前缀的  Key   (阿里广告平台)

scan  0 match k* count 5

2. 如何生产上限制 keys */ flushdb / flushall 等危险命令以防止  误删无用

配置文件中禁止使用

3. 美团,MEMORY USAGE 命令使用过吗?

多用于查找大于10kb(string类型)的key使用

4. BigKey 问题,多大算big ? 如何发现? 如何处理? 如何删除?

BigKey:

string类型  > 大于10kb

hash、list、set、zset 其中的元素个数  >  非5000个

如何发现:

redis-cli -h 47.101.139.8 -p 6379 --bigkeys

memory usage k100

如何处理:

 如何删除:

  一种称为DEL,是对象的阻塞删除。

UNLINK非阻塞DEL以及FLUSHALL和FLUSHDB命令的ASYNC选项,以便在后台回收内存。

5.BigKey 如何 调优, 如何  惰性释放 lazyfree?

  redis.conf 配置文件 LAZY FREEING

6.MoreKey 问题, 生产上redis 数据库有 1000w 记录 ,如何遍历? key * 可以吗?

不可以

Scan命令 用于迭代数据库中的 数据库键

其中 scan 的是 游标,当游标为0时 ,遍历结束

这篇关于Redis key(BigKey、MoreKey)的存储策略的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/917686

相关文章

Redis 基本数据类型和使用详解

《Redis基本数据类型和使用详解》String是Redis最基本的数据类型,一个键对应一个值,它的功能十分强大,可以存储字符串、整数、浮点数等多种数据格式,本文给大家介绍Redis基本数据类型和... 目录一、Redis 入门介绍二、Redis 的五大基本数据类型2.1 String 类型2.2 Hash

Redis中Hash从使用过程到原理说明

《Redis中Hash从使用过程到原理说明》RedisHash结构用于存储字段-值对,适合对象数据,支持HSET、HGET等命令,采用ziplist或hashtable编码,通过渐进式rehash优化... 目录一、开篇:Hash就像超市的货架二、Hash的基本使用1. 常用命令示例2. Java操作示例三

Redis中Set结构使用过程与原理说明

《Redis中Set结构使用过程与原理说明》本文解析了RedisSet数据结构,涵盖其基本操作(如添加、查找)、集合运算(交并差)、底层实现(intset与hashtable自动切换机制)、典型应用场... 目录开篇:从购物车到Redis Set一、Redis Set的基本操作1.1 编程常用命令1.2 集

Redis中的有序集合zset从使用到原理分析

《Redis中的有序集合zset从使用到原理分析》Redis有序集合(zset)是字符串与分值的有序映射,通过跳跃表和哈希表结合实现高效有序性管理,适用于排行榜、延迟队列等场景,其时间复杂度低,内存占... 目录开篇:排行榜背后的秘密一、zset的基本使用1.1 常用命令1.2 Java客户端示例二、zse

Redis中的AOF原理及分析

《Redis中的AOF原理及分析》Redis的AOF通过记录所有写操作命令实现持久化,支持always/everysec/no三种同步策略,重写机制优化文件体积,与RDB结合可平衡数据安全与恢复效率... 目录开篇:从日记本到AOF一、AOF的基本执行流程1. 命令执行与记录2. AOF重写机制二、AOF的

前端缓存策略的自解方案全解析

《前端缓存策略的自解方案全解析》缓存从来都是前端的一个痛点,很多前端搞不清楚缓存到底是何物,:本文主要介绍前端缓存的自解方案,文中通过代码介绍的非常详细,需要的朋友可以参考下... 目录一、为什么“清缓存”成了技术圈的梗二、先给缓存“把个脉”:浏览器到底缓存了谁?三、设计思路:把“发版”做成“自愈”四、代码

java中判断json key是否存在的几种方法

《java中判断jsonkey是否存在的几种方法》在使用Java处理JSON数据时,如何判断某一个key是否存在?本文就来介绍三种方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的... 目http://www.chinasem.cn录第一种方法是使用 jsONObject 的 has 方法

MyBatis/MyBatis-Plus同事务循环调用存储过程获取主键重复问题分析及解决

《MyBatis/MyBatis-Plus同事务循环调用存储过程获取主键重复问题分析及解决》MyBatis默认开启一级缓存,同一事务中循环调用查询方法时会重复使用缓存数据,导致获取的序列主键值均为1,... 目录问题原因解决办法如果是存储过程总结问题myBATis有如下代码获取序列作为主键IdMappe

k8s搭建nfs共享存储实践

《k8s搭建nfs共享存储实践》本文介绍NFS服务端搭建与客户端配置,涵盖安装工具、目录设置及服务启动,随后讲解K8S中NFS动态存储部署,包括创建命名空间、ServiceAccount、RBAC权限... 目录1. NFS搭建1.1 部署NFS服务端1.1.1 下载nfs-utils和rpcbind1.1

Redis高性能Key-Value存储与缓存利器常见解决方案

《Redis高性能Key-Value存储与缓存利器常见解决方案》Redis是高性能内存Key-Value存储系统,支持丰富数据类型与持久化方案(RDB/AOF),本文给大家介绍Redis高性能Key-... 目录Redis:高性能Key-Value存储与缓存利器什么是Redis?为什么选择Redis?Red