Redis分片集群、数据读写规则问题小结

2025-06-21 04:50

本文主要是介绍Redis分片集群、数据读写规则问题小结,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

《Redis分片集群、数据读写规则问题小结》本文介绍了Redis分片集群的原理,通过数据分片和哈希槽机制解决单机内存限制与写瓶颈问题,实现分布式存储和高并发处理,但存在通信开销大、维护复杂及对事务支持...

一、分片集群解决的问题

尽管主从复制和哨兵模式解决了 Redis高可用高并发读的问题,但它们仍然存在两个主要限制:

  • 海量数据存储问题:所有数据都存储在一个 Master 节点上,单个节点的内存容量是有限的。当数据量非常大时,一个 Master 节点无法承载。
  • 高并发写的问题:所有的写操作都集中在 Master 节点上,单个 Master 节点的写能力是有限的。当写请求非常多时,Mwww.chinasem.cnaster 节点可能会成为瓶颈。

分片集群就是为了正是为了突破解决高并发写海量数据存储上的瓶颈。

二、分片集群图解 

分片集群特征

  • 集群中有多个master,每个master保存不同数据(每个分片数据是不同的,分片内主从数据是相同的)
  • (分片内)每个master都可以有多个slave节点
  • (不同分片间)master之间通过ping监测彼此健康状态
  • 客户端请求可以访问集群任意节点,最终都会被转发到正确节点

Redis分片集群、数据读写规则问题小结

如何解决的上述问题?(与哨兵模式对比) 

特征分片集群哨兵模式
数据分布数据分散在多个 Master 节点(数据分片)所有数据在一个 Master 节点(全量复制)
解决问题海量数据存储、高并发写高可用、高并发读
高可用实现集群内部 Master 节点互相协商故障转移外部独立 Sentinel 集群负责故障转移
健康监测Master 节点之间互相监测Sentinel 监测 Master/Slave
节点间通信Master 之间通过集群总线,Master 与 Slave 数据同步Sentinel 与 Redis 节点,Sentinel 之间
客户端连接连接任意节点,通过重定向找到正确节点通过 Sentinel 获取 Master 地址,直接连接 Master
复杂性相对复杂(数据分片、槽管理、数据迁移等)相对简单

使用场景

例如,在电商、在线课程等类型项目中,如果javascript课程数量、用户数量或活动数据量非常庞大,单个 Redis 实例无法承载时,可以考虑使用分片集群

  • 存储海量课程信息:将不同的课程信息分散到不同的 Master 节点上,例如按照课程ID的哈希值进行分片。
  • 处理高并发的写操作:例如在大型促销活动中,用户频繁修改个人信息、购物车等,这些写操作可以分散到不同的 Master 节点上处理,提高整体的处理能力android

三、分片集群下的数据读写 

面试官:你提到分片集群解决了海量数据存储和高并发写的问题,那么它是如何决定一个key应该存储在哪个Master节点上的呢

答:Redis 分片集群采用哈希槽 (Hash Slot) 的方式来管理数据。整个集群共有 16384 个哈希槽。每个 key 在存储时,会根据其 key 的哈希值计算出一个槽号(通常是 CRC16(key)www.chinasem.cn % 16384)。

集群中的每个 Master 节点负责管理一部分哈希槽。客户端根据 key 计算出槽号后,就知道应该去哪个 Master 节点操作这个 key。

 图示key的存储过程

Redis分片集群、数据读写规则问题小结

四、总结及缺点 

分片集群(Redis Cluster) :是一种分布式解决方案,它通过将数据分散存储在多个 Master 节点上,来解决海量数据存储高并发写的问题。每个 Master 节点负责一部分数据(通过哈希槽分配),并且可以有自己的 Slave 节点来保证高可用。 

缺点和局限性:

集群间通信开销:集群之间的心跳检测和数据通信会消耗大量的网络带宽

Lua 脚本和事务支持有限:Redis 的 Lua 脚本和事务通常要求操作的 key 都在同一个节点上;在分片集群中,如果一个 Lua 脚本或事务需要操作分布在不同 Master 节点上的 key,将无法执行

维护复杂

数据迁移复杂

客户端复杂

到此这篇关于Redis分片集群、数据读写规则问题小结的文章就介绍到这了,更多相关redis分片集群内容请搜索China编程(www.chinasem.cn)以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程China编程(www.chinasem.cn)!

这篇关于Redis分片集群、数据读写规则问题小结的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1155153

相关文章

解决hive启动时java.net.ConnectException:拒绝连接的问题

《解决hive启动时java.net.ConnectException:拒绝连接的问题》Hadoop集群连接被拒,需检查集群是否启动、关闭防火墙/SELinux、确认安全模式退出,若问题仍存,查看日志... 目录错误发生原因解决方式1.关闭防火墙2.关闭selinux3.启动集群4.检查集群是否正常启动5.

SpringBoot集成EasyExcel实现百万级别的数据导入导出实践指南

《SpringBoot集成EasyExcel实现百万级别的数据导入导出实践指南》本文将基于开源项目springboot-easyexcel-batch进行解析与扩展,手把手教大家如何在SpringBo... 目录项目结构概览核心依赖百万级导出实战场景核心代码效果百万级导入实战场景监听器和Service(核心

idea Maven Springboot多模块项目打包时90%的问题及解决方案

《ideaMavenSpringboot多模块项目打包时90%的问题及解决方案》:本文主要介绍ideaMavenSpringboot多模块项目打包时90%的问题及解决方案,具有很好的参考价值,... 目录1. 前言2. 问题3. 解决办法4. jar 包冲突总结1. 前言之所以写这篇文章是因为在使用Mav

使用Redis快速实现共享Session登录的详细步骤

《使用Redis快速实现共享Session登录的详细步骤》在Web开发中,Session通常用于存储用户的会话信息,允许用户在多个页面之间保持登录状态,Redis是一个开源的高性能键值数据库,广泛用于... 目录前言实现原理:步骤:使用Redis实现共享Session登录1. 引入Redis依赖2. 配置R

使用Python开发一个Ditto剪贴板数据导出工具

《使用Python开发一个Ditto剪贴板数据导出工具》在日常工作中,我们经常需要处理大量的剪贴板数据,下面将介绍如何使用Python的wxPython库开发一个图形化工具,实现从Ditto数据库中读... 目录前言运行结果项目需求分析技术选型核心功能实现1. Ditto数据库结构分析2. 数据库自动定位3

pandas数据的合并concat()和merge()方式

《pandas数据的合并concat()和merge()方式》Pandas中concat沿轴合并数据框(行或列),merge基于键连接(内/外/左/右),concat用于纵向或横向拼接,merge用于... 目录concat() 轴向连接合并(1) join='outer',axis=0(2)join='o

shell脚本批量导出redis key-value方式

《shell脚本批量导出rediskey-value方式》为避免keys全量扫描导致Redis卡顿,可先通过dump.rdb备份文件在本地恢复,再使用scan命令渐进导出key-value,通过CN... 目录1 背景2 详细步骤2.1 本地docker启动Redis2.2 shell批量导出脚本3 附录总

批量导入txt数据到的redis过程

《批量导入txt数据到的redis过程》用户通过将Redis命令逐行写入txt文件,利用管道模式运行客户端,成功执行批量删除以Product*匹配的Key操作,提高了数据清理效率... 目录批量导入txt数据到Redisjs把redis命令按一条 一行写到txt中管道命令运行redis客户端成功了批量删除k

Redis客户端连接机制的实现方案

《Redis客户端连接机制的实现方案》本文主要介绍了Redis客户端连接机制的实现方案,包括事件驱动模型、非阻塞I/O处理、连接池应用及配置优化,具有一定的参考价值,感兴趣的可以了解一下... 目录1. Redis连接模型概述2. 连接建立过程详解2.1 连php接初始化流程2.2 关键配置参数3. 最大连

SpringBoot多环境配置数据读取方式

《SpringBoot多环境配置数据读取方式》SpringBoot通过环境隔离机制,支持properties/yaml/yml多格式配置,结合@Value、Environment和@Configura... 目录一、多环境配置的核心思路二、3种配置文件格式详解2.1 properties格式(传统格式)1.