Redis分片集群、数据读写规则问题小结

2025-06-21 04:50

本文主要是介绍Redis分片集群、数据读写规则问题小结,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

《Redis分片集群、数据读写规则问题小结》本文介绍了Redis分片集群的原理,通过数据分片和哈希槽机制解决单机内存限制与写瓶颈问题,实现分布式存储和高并发处理,但存在通信开销大、维护复杂及对事务支持...

一、分片集群解决的问题

尽管主从复制和哨兵模式解决了 Redis高可用高并发读的问题,但它们仍然存在两个主要限制:

  • 海量数据存储问题:所有数据都存储在一个 Master 节点上,单个节点的内存容量是有限的。当数据量非常大时,一个 Master 节点无法承载。
  • 高并发写的问题:所有的写操作都集中在 Master 节点上,单个 Master 节点的写能力是有限的。当写请求非常多时,Mwww.chinasem.cnaster 节点可能会成为瓶颈。

分片集群就是为了正是为了突破解决高并发写海量数据存储上的瓶颈。

二、分片集群图解 

分片集群特征

  • 集群中有多个master,每个master保存不同数据(每个分片数据是不同的,分片内主从数据是相同的)
  • (分片内)每个master都可以有多个slave节点
  • (不同分片间)master之间通过ping监测彼此健康状态
  • 客户端请求可以访问集群任意节点,最终都会被转发到正确节点

Redis分片集群、数据读写规则问题小结

如何解决的上述问题?(与哨兵模式对比) 

特征分片集群哨兵模式
数据分布数据分散在多个 Master 节点(数据分片)所有数据在一个 Master 节点(全量复制)
解决问题海量数据存储、高并发写高可用、高并发读
高可用实现集群内部 Master 节点互相协商故障转移外部独立 Sentinel 集群负责故障转移
健康监测Master 节点之间互相监测Sentinel 监测 Master/Slave
节点间通信Master 之间通过集群总线,Master 与 Slave 数据同步Sentinel 与 Redis 节点,Sentinel 之间
客户端连接连接任意节点,通过重定向找到正确节点通过 Sentinel 获取 Master 地址,直接连接 Master
复杂性相对复杂(数据分片、槽管理、数据迁移等)相对简单

使用场景

例如,在电商、在线课程等类型项目中,如果javascript课程数量、用户数量或活动数据量非常庞大,单个 Redis 实例无法承载时,可以考虑使用分片集群

  • 存储海量课程信息:将不同的课程信息分散到不同的 Master 节点上,例如按照课程ID的哈希值进行分片。
  • 处理高并发的写操作:例如在大型促销活动中,用户频繁修改个人信息、购物车等,这些写操作可以分散到不同的 Master 节点上处理,提高整体的处理能力android

三、分片集群下的数据读写 

面试官:你提到分片集群解决了海量数据存储和高并发写的问题,那么它是如何决定一个key应该存储在哪个Master节点上的呢

答:Redis 分片集群采用哈希槽 (Hash Slot) 的方式来管理数据。整个集群共有 16384 个哈希槽。每个 key 在存储时,会根据其 key 的哈希值计算出一个槽号(通常是 CRC16(key)www.chinasem.cn % 16384)。

集群中的每个 Master 节点负责管理一部分哈希槽。客户端根据 key 计算出槽号后,就知道应该去哪个 Master 节点操作这个 key。

 图示key的存储过程

Redis分片集群、数据读写规则问题小结

四、总结及缺点 

分片集群(Redis Cluster) :是一种分布式解决方案,它通过将数据分散存储在多个 Master 节点上,来解决海量数据存储高并发写的问题。每个 Master 节点负责一部分数据(通过哈希槽分配),并且可以有自己的 Slave 节点来保证高可用。 

缺点和局限性:

集群间通信开销:集群之间的心跳检测和数据通信会消耗大量的网络带宽

Lua 脚本和事务支持有限:Redis 的 Lua 脚本和事务通常要求操作的 key 都在同一个节点上;在分片集群中,如果一个 Lua 脚本或事务需要操作分布在不同 Master 节点上的 key,将无法执行

维护复杂

数据迁移复杂

客户端复杂

到此这篇关于Redis分片集群、数据读写规则问题小结的文章就介绍到这了,更多相关redis分片集群内容请搜索China编程(www.chinasem.cn)以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程China编程(www.chinasem.cn)!

这篇关于Redis分片集群、数据读写规则问题小结的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1155153

相关文章

k8s容器放开锁内存限制问题

《k8s容器放开锁内存限制问题》nccl-test容器运行mpirun时因NCCL_BUFFSIZE过大导致OOM,需通过修改docker服务配置文件,将LimitMEMLOCK设为infinity并... 目录问题问题确认放开容器max locked memory限制总结参考:https://Access

Java中字符编码问题的解决方法详解

《Java中字符编码问题的解决方法详解》在日常Java开发中,字符编码问题是一个非常常见却又特别容易踩坑的地方,这篇文章就带你一步一步看清楚字符编码的来龙去脉,并结合可运行的代码,看看如何在Java项... 目录前言背景:为什么会出现编码问题常见场景分析控制台输出乱码文件读写乱码数据库存取乱码解决方案统一使

SpringBoot分段处理List集合多线程批量插入数据方式

《SpringBoot分段处理List集合多线程批量插入数据方式》文章介绍如何处理大数据量List批量插入数据库的优化方案:通过拆分List并分配独立线程处理,结合Spring线程池与异步方法提升效率... 目录项目场景解决方案1.实体类2.Mapper3.spring容器注入线程池bejsan对象4.创建

线上Java OOM问题定位与解决方案超详细解析

《线上JavaOOM问题定位与解决方案超详细解析》OOM是JVM抛出的错误,表示内存分配失败,:本文主要介绍线上JavaOOM问题定位与解决方案的相关资料,文中通过代码介绍的非常详细,需要的朋... 目录一、OOM问题核心认知1.1 OOM定义与技术定位1.2 OOM常见类型及技术特征二、OOM问题定位工具

PHP轻松处理千万行数据的方法详解

《PHP轻松处理千万行数据的方法详解》说到处理大数据集,PHP通常不是第一个想到的语言,但如果你曾经需要处理数百万行数据而不让服务器崩溃或内存耗尽,你就会知道PHP用对了工具有多强大,下面小编就... 目录问题的本质php 中的数据流处理:为什么必不可少生成器:内存高效的迭代方式流量控制:避免系统过载一次性

Python使用FastAPI实现大文件分片上传与断点续传功能

《Python使用FastAPI实现大文件分片上传与断点续传功能》大文件直传常遇到超时、网络抖动失败、失败后只能重传的问题,分片上传+断点续传可以把大文件拆成若干小块逐个上传,并在中断后从已完成分片继... 目录一、接口设计二、服务端实现(FastAPI)2.1 运行环境2.2 目录结构建议2.3 serv

C#实现千万数据秒级导入的代码

《C#实现千万数据秒级导入的代码》在实际开发中excel导入很常见,现代社会中很容易遇到大数据处理业务,所以本文我就给大家分享一下千万数据秒级导入怎么实现,文中有详细的代码示例供大家参考,需要的朋友可... 目录前言一、数据存储二、处理逻辑优化前代码处理逻辑优化后的代码总结前言在实际开发中excel导入很

springboot中使用okhttp3的小结

《springboot中使用okhttp3的小结》OkHttp3是一个JavaHTTP客户端,可以处理各种请求类型,比如GET、POST、PUT等,并且支持高效的HTTP连接池、请求和响应缓存、以及异... 在 Spring Boot 项目中使用 OkHttp3 进行 HTTP 请求是一个高效且流行的方式。

Redis 的 SUBSCRIBE命令详解

《Redis的SUBSCRIBE命令详解》Redis的SUBSCRIBE命令用于订阅一个或多个频道,以便接收发送到这些频道的消息,本文给大家介绍Redis的SUBSCRIBE命令,感兴趣的朋友跟随... 目录基本语法工作原理示例消息格式相关命令python 示例Redis 的 SUBSCRIBE 命令用于订

mybatis映射器配置小结

《mybatis映射器配置小结》本文详解MyBatis映射器配置,重点讲解字段映射的三种解决方案(别名、自动驼峰映射、resultMap),文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定... 目录select中字段的映射问题使用SQL语句中的别名功能使用mapUnderscoreToCame