Redis key(BigKey、MoreKey)的存储策略

2024-04-19 13:36

本文主要是介绍Redis key(BigKey、MoreKey)的存储策略,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

1. MoreKey 案例

1.1 大批量往 redis 里面 插入2000w 测试数据key

(1) Linux Bash 下面执行,插入 100w

root@spray:~# for((i=1;i<=100*10000;i++)); do echo "set k$i v$i" >> /tmp/redisTest.txt;  done;

查看

root@spray:~# more /tmp/redisTest.txt

set k1 v1
set k2 v2
set k3 v3

(2) 通过redis提供的管道  --pipe  命令插入 100w 大批量数据

root@spray:~# cat /tmp/redisTest.txt | redis-cli -h 47.101.139.8  -p 6379 --pipe
All data transferred. Waiting for the last reply...
Last reply received from server.
errors: 0, replies: 1000000

查看

:6379> get k1000000
v1000000

* 企业中建议禁止使用 keys*  、 flushdb 、 flushall等命令

1.2 Scan命令 用于迭代数据库中的 数据库键

// 其中 scan 的是 游标,当游标为0时 ,遍历结束
:6379> scan  0 match k* count 5
["65536",["k578034","k899828","k667111","k720478","k115954"]
]
:6379> scan  65536 match k* count 5
["720896",["k133147","k151526","k549678","k541042","k937688","k662333","k652940","k517887"]
]

2.BigKey 案例

1.多大的key算作BigKey呢?

set k1 v1    (string    512MB)

根据阿里云 Redis 开发规范

string类型  > 大于10kb

hash、list、set、zset 其中的元素个数  >  非5000个

注意:非字符串的bigkey ,使用hscan、sscan、zscan方式删除(不建议是用del)

2. bigKey 有哪些危害

(1)内存不均、集群迁移困难

(2)网络流量阻塞

(3)超时删除,大key删除作梗

3. 如何产生

(1)社交类

        某网红的粉丝列表,粉丝数量逐步递增

(2)汇总统计

        某个报表,日月年的数据积累

4. 如何发现 bigkeys

(1)redis-cli --bigkeys

        给出每种数据类型Top 1 bigkey,同时给出每种数据类型的键值个数+平均大小

(2)memory usage 键

        对于大于10kb的key使用

root@spray:~# redis-cli -h 47.101.139.8 -p 6379 --bigkeys # Scanning the entire keyspace to find biggest keys as well as
# average sizes per key type.  You can use -i 0.1 to sleep 0.1 sec
# per 100 SCAN commands (not usually needed).[00.00%] Biggest string found so far '"k578034"' with 7 bytes
[02.06%] Biggest string found so far '"backup4"' with 72 bytes-------- summary -------[16.34%] Sampled 163375 keys in the keyspace!
Total key length in bytes is 1125560 (avg len 6.89)Biggest string found '"backup4"' has 72 bytes0 lists with 0 items (00.00% of keys, avg size 0.00)
0 hashs with 0 fields (00.00% of keys, avg size 0.00)
163375 strings with 1125625 bytes (100.00% of keys, avg size 6.89)
0 streams with 0 entries (00.00% of keys, avg size 0.00)
0 sets with 0 members (00.00% of keys, avg size 0.00)
0 zsets with 0 members (00.00% of keys, avg size 0.00)
:6379> memory usage k100
(integer) 56

3.BigKey 生产调优

        redis.conf 配置文件 LAZY FREEING 相关说明

vim /myredis/redis7.conf

Redis有两个原语来删除键。

(1)阻塞刪除命令:(默认)

        一种称为DEL,是对象的阻塞删除。
        这意味着服务器停止处理新命令,以便以同步方式回收与对象关联的所有内存。如果删除的键与一个小对象相关联,则执行DEL命令所需的时间非常短,可与大多数其他命令相媲美
Redis中的0(1)或O(log_N)命令。

        但是,如果键与包含数百万个元素的聚合值相关联,则服务器可能阻塞很长时间(甚至几秒钟)才能完成操作。

(2)非阻塞删除命令

        UNLINK非阻塞DEL以及FLUSHALL和FLUSHDB命令的ASYNC选项,以便在后台回收内存。

        这些命令在恒定时间内执行。另一个线和程将尽可能快地逐步释放后台中的对象。
FLUSHALL和FLUSHDB的DEL、UNLINK和ASYNC选项是用户控制的。这取决于应用程序的设计,以了解何时使用其中一个是个好主意。

        然而,作为其他操作的副作用,Redis服务器有时不得不删除键或刷新整个数据库。具体而言,Redis在以下场景中独立于用户调用删除对象:

 

4.面试案例:

1. 海量数据里  查询  某一固定前缀的  Key   (阿里广告平台)

scan  0 match k* count 5

2. 如何生产上限制 keys */ flushdb / flushall 等危险命令以防止  误删无用

配置文件中禁止使用

3. 美团,MEMORY USAGE 命令使用过吗?

多用于查找大于10kb(string类型)的key使用

4. BigKey 问题,多大算big ? 如何发现? 如何处理? 如何删除?

BigKey:

string类型  > 大于10kb

hash、list、set、zset 其中的元素个数  >  非5000个

如何发现:

redis-cli -h 47.101.139.8 -p 6379 --bigkeys

memory usage k100

如何处理:

 如何删除:

  一种称为DEL,是对象的阻塞删除。

UNLINK非阻塞DEL以及FLUSHALL和FLUSHDB命令的ASYNC选项,以便在后台回收内存。

5.BigKey 如何 调优, 如何  惰性释放 lazyfree?

  redis.conf 配置文件 LAZY FREEING

6.MoreKey 问题, 生产上redis 数据库有 1000w 记录 ,如何遍历? key * 可以吗?

不可以

Scan命令 用于迭代数据库中的 数据库键

其中 scan 的是 游标,当游标为0时 ,遍历结束

这篇关于Redis key(BigKey、MoreKey)的存储策略的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/917686

相关文章

Redis中6种缓存更新策略详解

《Redis中6种缓存更新策略详解》Redis作为一款高性能的内存数据库,已经成为缓存层的首选解决方案,然而,使用缓存时最大的挑战在于保证缓存数据与底层数据源的一致性,本文将介绍Redis中6种缓存更... 目录引言策略一:Cache-Aside(旁路缓存)策略工作原理代码示例优缺点分析适用场景策略二:Re

SQLyog中DELIMITER执行存储过程时出现前置缩进问题的解决方法

《SQLyog中DELIMITER执行存储过程时出现前置缩进问题的解决方法》在SQLyog中执行存储过程时出现的前置缩进问题,实际上反映了SQLyog对SQL语句解析的一个特殊行为,本文给大家介绍了详... 目录问题根源正确写法示例永久解决方案为什么命令行不受影响?最佳实践建议问题根源SQLyog的语句分

redis中使用lua脚本的原理与基本使用详解

《redis中使用lua脚本的原理与基本使用详解》在Redis中使用Lua脚本可以实现原子性操作、减少网络开销以及提高执行效率,下面小编就来和大家详细介绍一下在redis中使用lua脚本的原理... 目录Redis 执行 Lua 脚本的原理基本使用方法使用EVAL命令执行 Lua 脚本使用EVALSHA命令

Redis 热 key 和大 key 问题小结

《Redis热key和大key问题小结》:本文主要介绍Redis热key和大key问题小结,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录一、什么是 Redis 热 key?热 key(Hot Key)定义: 热 key 常见表现:热 key 的风险:二、

C#使用StackExchange.Redis实现分布式锁的两种方式介绍

《C#使用StackExchange.Redis实现分布式锁的两种方式介绍》分布式锁在集群的架构中发挥着重要的作用,:本文主要介绍C#使用StackExchange.Redis实现分布式锁的... 目录自定义分布式锁获取锁释放锁自动续期StackExchange.Redis分布式锁获取锁释放锁自动续期分布式

SpringBoot基于配置实现短信服务策略的动态切换

《SpringBoot基于配置实现短信服务策略的动态切换》这篇文章主要为大家详细介绍了SpringBoot在接入多个短信服务商(如阿里云、腾讯云、华为云)后,如何根据配置或环境切换使用不同的服务商,需... 目录目标功能示例配置(application.yml)配置类绑定短信发送策略接口示例:阿里云 & 腾

关于MongoDB图片URL存储异常问题以及解决

《关于MongoDB图片URL存储异常问题以及解决》:本文主要介绍关于MongoDB图片URL存储异常问题以及解决方案,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐... 目录MongoDB图片URL存储异常问题项目场景问题描述原因分析解决方案预防措施js总结MongoDB图

Redis Pipeline(管道) 详解

《RedisPipeline(管道)详解》Pipeline管道是Redis提供的一种批量执行命令的机制,通过将多个命令一次性发送到服务器并统一接收响应,减少网络往返次数(RTT),显著提升执行效率... 目录Redis Pipeline 详解1. Pipeline 的核心概念2. 工作原理与性能提升3. 核

redis过期key的删除策略介绍

《redis过期key的删除策略介绍》:本文主要介绍redis过期key的删除策略,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录第一种策略:被动删除第二种策略:定期删除第三种策略:强制删除关于big key的清理UNLINK命令FLUSHALL/FLUSHDB命

Redis消息队列实现异步秒杀功能

《Redis消息队列实现异步秒杀功能》在高并发场景下,为了提高秒杀业务的性能,可将部分工作交给Redis处理,并通过异步方式执行,Redis提供了多种数据结构来实现消息队列,总结三种,本文详细介绍Re... 目录1 Redis消息队列1.1 List 结构1.2 Pub/Sub 模式1.3 Stream 结