Redis key(BigKey、MoreKey)的存储策略

2024-04-19 13:36

本文主要是介绍Redis key(BigKey、MoreKey)的存储策略,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

1. MoreKey 案例

1.1 大批量往 redis 里面 插入2000w 测试数据key

(1) Linux Bash 下面执行,插入 100w

root@spray:~# for((i=1;i<=100*10000;i++)); do echo "set k$i v$i" >> /tmp/redisTest.txt;  done;

查看

root@spray:~# more /tmp/redisTest.txt

set k1 v1
set k2 v2
set k3 v3

(2) 通过redis提供的管道  --pipe  命令插入 100w 大批量数据

root@spray:~# cat /tmp/redisTest.txt | redis-cli -h 47.101.139.8  -p 6379 --pipe
All data transferred. Waiting for the last reply...
Last reply received from server.
errors: 0, replies: 1000000

查看

:6379> get k1000000
v1000000

* 企业中建议禁止使用 keys*  、 flushdb 、 flushall等命令

1.2 Scan命令 用于迭代数据库中的 数据库键

// 其中 scan 的是 游标,当游标为0时 ,遍历结束
:6379> scan  0 match k* count 5
["65536",["k578034","k899828","k667111","k720478","k115954"]
]
:6379> scan  65536 match k* count 5
["720896",["k133147","k151526","k549678","k541042","k937688","k662333","k652940","k517887"]
]

2.BigKey 案例

1.多大的key算作BigKey呢?

set k1 v1    (string    512MB)

根据阿里云 Redis 开发规范

string类型  > 大于10kb

hash、list、set、zset 其中的元素个数  >  非5000个

注意:非字符串的bigkey ,使用hscan、sscan、zscan方式删除(不建议是用del)

2. bigKey 有哪些危害

(1)内存不均、集群迁移困难

(2)网络流量阻塞

(3)超时删除,大key删除作梗

3. 如何产生

(1)社交类

        某网红的粉丝列表,粉丝数量逐步递增

(2)汇总统计

        某个报表,日月年的数据积累

4. 如何发现 bigkeys

(1)redis-cli --bigkeys

        给出每种数据类型Top 1 bigkey,同时给出每种数据类型的键值个数+平均大小

(2)memory usage 键

        对于大于10kb的key使用

root@spray:~# redis-cli -h 47.101.139.8 -p 6379 --bigkeys # Scanning the entire keyspace to find biggest keys as well as
# average sizes per key type.  You can use -i 0.1 to sleep 0.1 sec
# per 100 SCAN commands (not usually needed).[00.00%] Biggest string found so far '"k578034"' with 7 bytes
[02.06%] Biggest string found so far '"backup4"' with 72 bytes-------- summary -------[16.34%] Sampled 163375 keys in the keyspace!
Total key length in bytes is 1125560 (avg len 6.89)Biggest string found '"backup4"' has 72 bytes0 lists with 0 items (00.00% of keys, avg size 0.00)
0 hashs with 0 fields (00.00% of keys, avg size 0.00)
163375 strings with 1125625 bytes (100.00% of keys, avg size 6.89)
0 streams with 0 entries (00.00% of keys, avg size 0.00)
0 sets with 0 members (00.00% of keys, avg size 0.00)
0 zsets with 0 members (00.00% of keys, avg size 0.00)
:6379> memory usage k100
(integer) 56

3.BigKey 生产调优

        redis.conf 配置文件 LAZY FREEING 相关说明

vim /myredis/redis7.conf

Redis有两个原语来删除键。

(1)阻塞刪除命令:(默认)

        一种称为DEL,是对象的阻塞删除。
        这意味着服务器停止处理新命令,以便以同步方式回收与对象关联的所有内存。如果删除的键与一个小对象相关联,则执行DEL命令所需的时间非常短,可与大多数其他命令相媲美
Redis中的0(1)或O(log_N)命令。

        但是,如果键与包含数百万个元素的聚合值相关联,则服务器可能阻塞很长时间(甚至几秒钟)才能完成操作。

(2)非阻塞删除命令

        UNLINK非阻塞DEL以及FLUSHALL和FLUSHDB命令的ASYNC选项,以便在后台回收内存。

        这些命令在恒定时间内执行。另一个线和程将尽可能快地逐步释放后台中的对象。
FLUSHALL和FLUSHDB的DEL、UNLINK和ASYNC选项是用户控制的。这取决于应用程序的设计,以了解何时使用其中一个是个好主意。

        然而,作为其他操作的副作用,Redis服务器有时不得不删除键或刷新整个数据库。具体而言,Redis在以下场景中独立于用户调用删除对象:

 

4.面试案例:

1. 海量数据里  查询  某一固定前缀的  Key   (阿里广告平台)

scan  0 match k* count 5

2. 如何生产上限制 keys */ flushdb / flushall 等危险命令以防止  误删无用

配置文件中禁止使用

3. 美团,MEMORY USAGE 命令使用过吗?

多用于查找大于10kb(string类型)的key使用

4. BigKey 问题,多大算big ? 如何发现? 如何处理? 如何删除?

BigKey:

string类型  > 大于10kb

hash、list、set、zset 其中的元素个数  >  非5000个

如何发现:

redis-cli -h 47.101.139.8 -p 6379 --bigkeys

memory usage k100

如何处理:

 如何删除:

  一种称为DEL,是对象的阻塞删除。

UNLINK非阻塞DEL以及FLUSHALL和FLUSHDB命令的ASYNC选项,以便在后台回收内存。

5.BigKey 如何 调优, 如何  惰性释放 lazyfree?

  redis.conf 配置文件 LAZY FREEING

6.MoreKey 问题, 生产上redis 数据库有 1000w 记录 ,如何遍历? key * 可以吗?

不可以

Scan命令 用于迭代数据库中的 数据库键

其中 scan 的是 游标,当游标为0时 ,遍历结束

这篇关于Redis key(BigKey、MoreKey)的存储策略的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/917686

相关文章

Redis实现分布式锁全过程

《Redis实现分布式锁全过程》文章介绍Redis实现分布式锁的方法,包括使用SETNX和EXPIRE命令确保互斥性与防死锁,Redisson客户端提供的便捷接口,以及Redlock算法通过多节点共识... 目录Redis实现分布式锁1. 分布式锁的基本原理2. 使用 Redis 实现分布式锁2.1 获取锁

Redis中哨兵机制和集群的区别及说明

《Redis中哨兵机制和集群的区别及说明》Redis哨兵通过主从复制实现高可用,适用于中小规模数据;集群采用分布式分片,支持动态扩展,适合大规模数据,哨兵管理简单但扩展性弱,集群性能更强但架构复杂,根... 目录一、架构设计与节点角色1. 哨兵机制(Sentinel)2. 集群(Cluster)二、数据分片

使用SpringBoot+InfluxDB实现高效数据存储与查询

《使用SpringBoot+InfluxDB实现高效数据存储与查询》InfluxDB是一个开源的时间序列数据库,特别适合处理带有时间戳的监控数据、指标数据等,下面详细介绍如何在SpringBoot项目... 目录1、项目介绍2、 InfluxDB 介绍3、Spring Boot 配置 InfluxDB4、I

redis数据结构之String详解

《redis数据结构之String详解》Redis以String为基础类型,因C字符串效率低、非二进制安全等问题,采用SDS动态字符串实现高效存储,通过RedisObject封装,支持多种编码方式(如... 目录一、为什么Redis选String作为基础类型?二、SDS底层数据结构三、RedisObject

MySQL设置密码复杂度策略的完整步骤(附代码示例)

《MySQL设置密码复杂度策略的完整步骤(附代码示例)》MySQL密码策略还可能包括密码复杂度的检查,如是否要求密码包含大写字母、小写字母、数字和特殊字符等,:本文主要介绍MySQL设置密码复杂度... 目录前言1. 使用 validate_password 插件1.1 启用 validate_passwo

Redis分布式锁中Redission底层实现方式

《Redis分布式锁中Redission底层实现方式》Redission基于Redis原子操作和Lua脚本实现分布式锁,通过SETNX命令、看门狗续期、可重入机制及异常处理,确保锁的可靠性和一致性,是... 目录Redis分布式锁中Redission底层实现一、Redission分布式锁的基本使用二、Red

redis和redission分布式锁原理及区别说明

《redis和redission分布式锁原理及区别说明》文章对比了synchronized、乐观锁、Redis分布式锁及Redission锁的原理与区别,指出在集群环境下synchronized失效,... 目录Redis和redission分布式锁原理及区别1、有的同伴想到了synchronized关键字

Spring Integration Redis 使用示例详解

《SpringIntegrationRedis使用示例详解》本文给大家介绍SpringIntegrationRedis的配置与使用,涵盖依赖添加、Redis连接设置、分布式锁实现、消息通道配置及... 目录一、依赖配置1.1 Maven 依赖1.2 Gradle 依赖二、Redis 连接配置2.1 配置 R

redis中session会话共享的三种方案

《redis中session会话共享的三种方案》本文探讨了分布式系统中Session共享的三种解决方案,包括粘性会话、Session复制以及基于Redis的集中存储,具有一定的参考价值,感兴趣的可以了... 目录三种解决方案粘性会话(Sticky Sessions)Session复制Redis统一存储Spr

使用Redis快速实现共享Session登录的详细步骤

《使用Redis快速实现共享Session登录的详细步骤》在Web开发中,Session通常用于存储用户的会话信息,允许用户在多个页面之间保持登录状态,Redis是一个开源的高性能键值数据库,广泛用于... 目录前言实现原理:步骤:使用Redis实现共享Session登录1. 引入Redis依赖2. 配置R