Redis key(BigKey、MoreKey)的存储策略

2024-04-19 13:36

本文主要是介绍Redis key(BigKey、MoreKey)的存储策略,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

1. MoreKey 案例

1.1 大批量往 redis 里面 插入2000w 测试数据key

(1) Linux Bash 下面执行,插入 100w

root@spray:~# for((i=1;i<=100*10000;i++)); do echo "set k$i v$i" >> /tmp/redisTest.txt;  done;

查看

root@spray:~# more /tmp/redisTest.txt

set k1 v1
set k2 v2
set k3 v3

(2) 通过redis提供的管道  --pipe  命令插入 100w 大批量数据

root@spray:~# cat /tmp/redisTest.txt | redis-cli -h 47.101.139.8  -p 6379 --pipe
All data transferred. Waiting for the last reply...
Last reply received from server.
errors: 0, replies: 1000000

查看

:6379> get k1000000
v1000000

* 企业中建议禁止使用 keys*  、 flushdb 、 flushall等命令

1.2 Scan命令 用于迭代数据库中的 数据库键

// 其中 scan 的是 游标,当游标为0时 ,遍历结束
:6379> scan  0 match k* count 5
["65536",["k578034","k899828","k667111","k720478","k115954"]
]
:6379> scan  65536 match k* count 5
["720896",["k133147","k151526","k549678","k541042","k937688","k662333","k652940","k517887"]
]

2.BigKey 案例

1.多大的key算作BigKey呢?

set k1 v1    (string    512MB)

根据阿里云 Redis 开发规范

string类型  > 大于10kb

hash、list、set、zset 其中的元素个数  >  非5000个

注意:非字符串的bigkey ,使用hscan、sscan、zscan方式删除(不建议是用del)

2. bigKey 有哪些危害

(1)内存不均、集群迁移困难

(2)网络流量阻塞

(3)超时删除,大key删除作梗

3. 如何产生

(1)社交类

        某网红的粉丝列表,粉丝数量逐步递增

(2)汇总统计

        某个报表,日月年的数据积累

4. 如何发现 bigkeys

(1)redis-cli --bigkeys

        给出每种数据类型Top 1 bigkey,同时给出每种数据类型的键值个数+平均大小

(2)memory usage 键

        对于大于10kb的key使用

root@spray:~# redis-cli -h 47.101.139.8 -p 6379 --bigkeys # Scanning the entire keyspace to find biggest keys as well as
# average sizes per key type.  You can use -i 0.1 to sleep 0.1 sec
# per 100 SCAN commands (not usually needed).[00.00%] Biggest string found so far '"k578034"' with 7 bytes
[02.06%] Biggest string found so far '"backup4"' with 72 bytes-------- summary -------[16.34%] Sampled 163375 keys in the keyspace!
Total key length in bytes is 1125560 (avg len 6.89)Biggest string found '"backup4"' has 72 bytes0 lists with 0 items (00.00% of keys, avg size 0.00)
0 hashs with 0 fields (00.00% of keys, avg size 0.00)
163375 strings with 1125625 bytes (100.00% of keys, avg size 6.89)
0 streams with 0 entries (00.00% of keys, avg size 0.00)
0 sets with 0 members (00.00% of keys, avg size 0.00)
0 zsets with 0 members (00.00% of keys, avg size 0.00)
:6379> memory usage k100
(integer) 56

3.BigKey 生产调优

        redis.conf 配置文件 LAZY FREEING 相关说明

vim /myredis/redis7.conf

Redis有两个原语来删除键。

(1)阻塞刪除命令:(默认)

        一种称为DEL,是对象的阻塞删除。
        这意味着服务器停止处理新命令,以便以同步方式回收与对象关联的所有内存。如果删除的键与一个小对象相关联,则执行DEL命令所需的时间非常短,可与大多数其他命令相媲美
Redis中的0(1)或O(log_N)命令。

        但是,如果键与包含数百万个元素的聚合值相关联,则服务器可能阻塞很长时间(甚至几秒钟)才能完成操作。

(2)非阻塞删除命令

        UNLINK非阻塞DEL以及FLUSHALL和FLUSHDB命令的ASYNC选项,以便在后台回收内存。

        这些命令在恒定时间内执行。另一个线和程将尽可能快地逐步释放后台中的对象。
FLUSHALL和FLUSHDB的DEL、UNLINK和ASYNC选项是用户控制的。这取决于应用程序的设计,以了解何时使用其中一个是个好主意。

        然而,作为其他操作的副作用,Redis服务器有时不得不删除键或刷新整个数据库。具体而言,Redis在以下场景中独立于用户调用删除对象:

 

4.面试案例:

1. 海量数据里  查询  某一固定前缀的  Key   (阿里广告平台)

scan  0 match k* count 5

2. 如何生产上限制 keys */ flushdb / flushall 等危险命令以防止  误删无用

配置文件中禁止使用

3. 美团,MEMORY USAGE 命令使用过吗?

多用于查找大于10kb(string类型)的key使用

4. BigKey 问题,多大算big ? 如何发现? 如何处理? 如何删除?

BigKey:

string类型  > 大于10kb

hash、list、set、zset 其中的元素个数  >  非5000个

如何发现:

redis-cli -h 47.101.139.8 -p 6379 --bigkeys

memory usage k100

如何处理:

 如何删除:

  一种称为DEL,是对象的阻塞删除。

UNLINK非阻塞DEL以及FLUSHALL和FLUSHDB命令的ASYNC选项,以便在后台回收内存。

5.BigKey 如何 调优, 如何  惰性释放 lazyfree?

  redis.conf 配置文件 LAZY FREEING

6.MoreKey 问题, 生产上redis 数据库有 1000w 记录 ,如何遍历? key * 可以吗?

不可以

Scan命令 用于迭代数据库中的 数据库键

其中 scan 的是 游标,当游标为0时 ,遍历结束

这篇关于Redis key(BigKey、MoreKey)的存储策略的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/917686

相关文章

SpringBoot连接Redis集群教程

《SpringBoot连接Redis集群教程》:本文主要介绍SpringBoot连接Redis集群教程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1. 依赖2. 修改配置文件3. 创建RedisClusterConfig4. 测试总结1. 依赖 <de

SpringBoot+Redis防止接口重复提交问题

《SpringBoot+Redis防止接口重复提交问题》:本文主要介绍SpringBoot+Redis防止接口重复提交问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不... 目录前言实现思路代码示例测试总结前言在项目的使用使用过程中,经常会出现某些操作在短时间内频繁提交。例

Redis 配置文件使用建议redis.conf 从入门到实战

《Redis配置文件使用建议redis.conf从入门到实战》Redis配置方式包括配置文件、命令行参数、运行时CONFIG命令,支持动态修改参数及持久化,常用项涉及端口、绑定、内存策略等,版本8... 目录一、Redis.conf 是什么?二、命令行方式传参(适用于测试)三、运行时动态修改配置(不重启服务

浅析如何保证MySQL与Redis数据一致性

《浅析如何保证MySQL与Redis数据一致性》在互联网应用中,MySQL作为持久化存储引擎,Redis作为高性能缓存层,两者的组合能有效提升系统性能,下面我们来看看如何保证两者的数据一致性吧... 目录一、数据不一致性的根源1.1 典型不一致场景1.2 关键矛盾点二、一致性保障策略2.1 基础策略:更新数

Redis Cluster模式配置

《RedisCluster模式配置》:本文主要介绍RedisCluster模式配置,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录分片 一、分片的本质与核心价值二、分片实现方案对比 ‌三、分片算法详解1. ‌范围分片(顺序分片)‌2. ‌哈希分片3. ‌虚

MySQL存储过程之循环遍历查询的结果集详解

《MySQL存储过程之循环遍历查询的结果集详解》:本文主要介绍MySQL存储过程之循环遍历查询的结果集,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录前言1. 表结构2. 存储过程3. 关于存储过程的SQL补充总结前言近来碰到这样一个问题:在生产上导入的数据发现

Springboot整合Redis主从实践

《Springboot整合Redis主从实践》:本文主要介绍Springboot整合Redis主从的实例,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录前言原配置现配置测试LettuceConnectionFactory.setShareNativeConnect

Redis过期删除机制与内存淘汰策略的解析指南

《Redis过期删除机制与内存淘汰策略的解析指南》在使用Redis构建缓存系统时,很多开发者只设置了EXPIRE但却忽略了背后Redis的过期删除机制与内存淘汰策略,下面小编就来和大家详细介绍一下... 目录1、简述2、Redis http://www.chinasem.cn的过期删除策略(Key Expir

Redis指南及6.2.x版本安装过程

《Redis指南及6.2.x版本安装过程》Redis是完全开源免费的,遵守BSD协议,是一个高性能(NOSQL)的key-value数据库,Redis是一个开源的使用ANSIC语言编写、支持网络、... 目录概述Redis特点Redis应用场景缓存缓存分布式会话分布式锁社交网络最新列表Redis各版本介绍旧

Java如何从Redis中批量读取数据

《Java如何从Redis中批量读取数据》:本文主要介绍Java如何从Redis中批量读取数据的情况,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一.背景概述二.分析与实现三.发现问题与屡次改进3.1.QPS过高而且波动很大3.2.程序中断,抛异常3.3.内存消