SpringCache配置Redis有效解决缓存击穿和缓存雪崩问题

2023-10-26 04:15

本文主要是介绍SpringCache配置Redis有效解决缓存击穿和缓存雪崩问题,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

初始代码

作者参考的一篇CSDN的配置函数代码,实在不好意思,作者忘记是哪位博主了:

    /*** 设置CacheManager缓存规则* @param factory* @return*/@Beanpublic CacheManager cacheManager(RedisConnectionFactory factory) {RedisSerializer<String> redisSerializer = new StringRedisSerializer();//解决查询缓存转换异常的问题ObjectMapper om = new ObjectMapper();om.setVisibility(PropertyAccessor.ALL, JsonAutoDetect.Visibility.ANY);om.activateDefaultTyping(LaissezFaireSubTypeValidator.instance ,ObjectMapper.DefaultTyping.NON_FINAL);GenericJackson2JsonRedisSerializer jackson2JsonRedisSerializer = new GenericJackson2JsonRedisSerializer(om);// 配置序列化(解决乱码的问题),过期时间600秒RedisCacheConfiguration config = RedisCacheConfiguration.defaultCacheConfig().entryTtl(Duration.ofSeconds(600))//.entryTtl(randomTtl())// 使用随机TTL.serializeKeysWith(RedisSerializationContext.SerializationPair.fromSerializer(redisSerializer)).serializeValuesWith(RedisSerializationContext.SerializationPair.fromSerializer(jackson2JsonRedisSerializer)).disableCachingNullValues();RedisCacheManager cacheManager = RedisCacheManager.builder(factory).cacheDefaults(config).build();return cacheManager;}

上述代码配置了一个RedisCacheManager,这是Spring Cache与Redis集成的核心部分。代码中进行了以下配置(了解即可):

  1. 键和值的序列化

    • 为键使用了StringRedisSerializer,这意味着你的缓存键将存储为字符串。
    • 为值使用了GenericJackson2JsonRedisSerializer,该序列化程序基于Jackson,并能处理复杂的Java对象。
  2. JSON映射配置

    • 通过ObjectMapper配置来确保所有属性都是可见的,并默认序列化所有非final类的对象。这有助于确保多态类型的正确序列化。
  3. 缓存配置

    • 缓存条目的默认过期时间设置为600秒
    • 禁用了null值的缓存,这意味着如果某个方法返回null,它不会被缓存。

总的来说,这个配置为一个基本的Redis缓存机制提供了一个很好的起点。但还需要注意考虑一些策略来处理高并发环境下的缓存击穿和雪崩问题。


缓存击穿与缓存雪崩

缓存击穿和缓存雪崩是缓存系统中的两个常见问题,特别是在高并发环境下。它们可能导致系统性能下降,甚至造成服务中断。下面我将分别解释这两个问题,并提供相应的解决策略:

  1. 缓存击穿

    • 描述:指的是一个已经在缓存中的键突然变得非常热门。当该键的缓存到期时,大量的请求会同时去数据库中查询数据,从而可能导致数据库压力过大。
    • 解决策略:
      • 互斥锁第一个请求负责从数据库中加载数据并放入缓存,其余请求等待第一个请求处理完毕。(本文通过互斥锁解决缓存击穿问题,后文中有详细介绍)
      • 设置不过期:对于某些热门键,可以设置为永不过期,并在应用中手动管理其生命周期。
  2. 缓存雪崩

    • 描述:当多个缓存键同时到期,可能导致大量的请求同时访问数据库,从而导致数据库崩溃。
    • 解决策略:
      • 随机设置过期时间给每个缓存键设置一个随机的过期时间,避免多个键同时过期。(本文暂时利用此方法缓解雪崩问题)
      • 双层缓存:使用两层缓存,一层过期时间稍长,另一层过期时间稍短。当短的过期时,从长的获取数据,并异步更新长缓存中的数据。
      • 预热缓存:在某些键即将过期前,预先从数据库中加载数据到缓存。(好帅)
      • 使用熔断机制:在数据库压力过大时,暂时停止部分或所有请求,等待系统恢复。(好帅,好想完成)

除了上述策略,还有一些其它的策略可以应对这两个问题,例如使用限流算法(如Token Bucket、Leaky Bucket)来限制对数据库的访问频率,或者使用备份数据库来分散读取的压力。


代码实现

基于之前的代码,以下是如何增加处理缓存击穿和缓存雪崩的策略:

缓存击穿的解决策略

当我们讨论缓存击穿时,我们通常是指某一个缓存键值突然变得非常受欢迎。例如,想象一下有一个热门商品的数据被缓存,但是这个缓存即将到期。当缓存真正到期时,大量的并发请求可能会试图获取这个数据,发现缓存中没有数据,然后都会去数据库中查找。这可能会导致数据库压力过大。

这里的互斥锁策略的想法是:当缓存过期并且有多个线程尝试获取数据时,只让一个线程去数据库中查询数据并更新缓存,而其他线程则等待这个线程完成操作。这样,数据库只接受一个查询请求,而不是多个并发请求。

这可以使用Spring的@Cacheablesync属性实现。在@Cacheable注解中,添加sync属性:

@Cacheable(value = "allUsers", sync = true)
@Override
public List<User> selectAll() {return userRepository.findAll();
}

sync = true时,如果缓存值不存在,则只有一个线程会执行方法selectAll()并获取数据放入缓存中,其他的并发线程将会等待,直到第一个线程完成操作并将数据放入缓存。这就减少了对数据库的并发请求。

这个策略的主要好处是减轻了数据库的压力,但缺点是当缓存过期时,访问这个数据的请求可能会有一些延迟,因为它们可能需要等待其他线程完成数据加载。


缓存雪崩的解决策略

给每个缓存键设置一个随机的过期时间来避免许多键同时过期。这可以在RedisCacheConfiguration中设置:

首先,我们为缓存的TTL(time-to-live)定义一个随机范围:

import java.util.concurrent.ThreadLocalRandom;...private Duration randomTtl() {int baseTtl = 600; //基础TTLint randomRange = 120; //随机范围,比如+/- 120秒int randomTtl = baseTtl + ThreadLocalRandom.current().nextInt(-randomRange, randomRange);return Duration.ofSeconds(randomTtl);
}

接着,将RedisCacheConfiguration中的TTL设置为随机TTL:

RedisCacheConfiguration config = RedisCacheConfiguration.defaultCacheConfig().entryTtl(randomTtl()) // 使用随机TTL.serializeKeysWith(RedisSerializationContext.SerializationPair.fromSerializer(redisSerializer)).serializeValuesWith(RedisSerializationContext.SerializationPair.fromSerializer(jackson2JsonRedisSerializer)).disableCachingNullValues();

现在,每次创建新的缓存条目时,都会为其分配一个在给定范围内的随机TTL。


缓存击穿中的互斥锁问题

显而易见,随机TTL带来的风险比较小,我们可以暂时忽略它,但是,互斥锁,真的是可以随意使用吗?

互斥锁在解决缓存击穿问题上是很有用的,但是不应该盲目地在每一个键上都使用它。以下是考虑使用互斥锁的情境:

  1. 热门的键:如果一个键非常热门,并且在其缓存条目过期后预期会有大量并发请求,那么为这样的键设置互斥锁是有意义的。

  2. 高代价的数据加载:如果从数据源加载数据(例如从数据库或其他服务)的代价非常高,那么即使键不是特别热门,也可能值得使用互斥锁来避免多次并发加载。

  3. 高并发环境:在高并发环境中,即使某些键不是每时每刻都很热门,它们也可能在某个时间点突然变得很受欢迎。在这种情况下,互斥锁也可以提供帮助。

然而,如你所提到的,使用互斥锁也有一些开销:

  • 性能开销:当多个线程因为锁而被迫等待时,会有一定的性能损失。

  • 资源消耗:锁机制需要额外的资源来管理。

  • 增加复杂性:引入锁机制可能会使代码和系统架构变得更加复杂。

综上所述,确实不建议在所有键上都使用互斥锁。它应当被视为一个工具,只在确实需要时使用而不是一种普遍的策略。在决定使用互斥锁之前,应该根据具体应用的需求和场景进行深入的评估。


作者对待互斥锁的方式

对于作者简单的系统,互斥锁暂时是用不了。但作者本着“学都学了”的原则,考虑在测试中模拟缓存击穿问题,然后验证互斥锁的能力。下面是一个简单的方法来模拟和测试:

  1. 创建一个热门的键:选择一个经常被查询的数据对象,例如一个特定的User对象。

  2. 手动清除这个键的缓存:使用Spring的CacheManager手动清除特定的缓存键值。

  3. 使用压力测试工具:使用Apache JMeter压力测试工具,创建大量并发的请求来查询这个User对象。

  4. 观察没有互斥锁时的表现

    • 检查数据库的负载和查询次数
    • 观察响应时间
  5. 启用互斥锁:在查询这个User对象的方法上加上@Cacheable(sync = true)

  6. 再次执行压力测试:与第3步相同,创建大量并发请求。

  7. 观察有互斥锁时的表现

    • 再次检查数据库的负载和查询次数。理论上,查询次数应该大大减少
    • 观察响应时间。可能会看到稍微增加的响应时间,因为一些请求可能在等待锁。不过也不一定,响应时间也可能会比没有互斥锁的情况要快,特别是在高并发情况下,一旦缓存被成功填充,后续的请求将会得到非常快的响应时间。

这篇关于SpringCache配置Redis有效解决缓存击穿和缓存雪崩问题的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/285417

相关文章

Nginx 配置跨域的实现及常见问题解决

《Nginx配置跨域的实现及常见问题解决》本文主要介绍了Nginx配置跨域的实现及常见问题解决,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来... 目录1. 跨域1.1 同源策略1.2 跨域资源共享(CORS)2. Nginx 配置跨域的场景2.1

gitlab安装及邮箱配置和常用使用方式

《gitlab安装及邮箱配置和常用使用方式》:本文主要介绍gitlab安装及邮箱配置和常用使用方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1.安装GitLab2.配置GitLab邮件服务3.GitLab的账号注册邮箱验证及其分组4.gitlab分支和标签的

MySQL MCP 服务器安装配置最佳实践

《MySQLMCP服务器安装配置最佳实践》本文介绍MySQLMCP服务器的安装配置方法,本文结合实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下... 目录mysql MCP 服务器安装配置指南简介功能特点安装方法数据库配置使用MCP Inspector进行调试开发指

qt5cored.dll报错怎么解决? 电脑qt5cored.dll文件丢失修复技巧

《qt5cored.dll报错怎么解决?电脑qt5cored.dll文件丢失修复技巧》在进行软件安装或运行程序时,有时会遇到由于找不到qt5core.dll,无法继续执行代码,这个问题可能是由于该文... 遇到qt5cored.dll文件错误时,可能会导致基于 Qt 开发的应用程序无法正常运行或启动。这种错

Redis Cluster模式配置

《RedisCluster模式配置》:本文主要介绍RedisCluster模式配置,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录分片 一、分片的本质与核心价值二、分片实现方案对比 ‌三、分片算法详解1. ‌范围分片(顺序分片)‌2. ‌哈希分片3. ‌虚

SpringBoot项目配置logback-spring.xml屏蔽特定路径的日志

《SpringBoot项目配置logback-spring.xml屏蔽特定路径的日志》在SpringBoot项目中,使用logback-spring.xml配置屏蔽特定路径的日志有两种常用方式,文中的... 目录方案一:基础配置(直接关闭目标路径日志)方案二:结合 Spring Profile 按环境屏蔽关

Maven 配置中的 <mirror>绕过 HTTP 阻断机制的方法

《Maven配置中的<mirror>绕过HTTP阻断机制的方法》:本文主要介绍Maven配置中的<mirror>绕过HTTP阻断机制的方法,本文给大家分享问题原因及解决方案,感兴趣的朋友一... 目录一、问题场景:升级 Maven 后构建失败二、解决方案:通过 <mirror> 配置覆盖默认行为1. 配置示

SpringBoot排查和解决JSON解析错误(400 Bad Request)的方法

《SpringBoot排查和解决JSON解析错误(400BadRequest)的方法》在开发SpringBootRESTfulAPI时,客户端与服务端的数据交互通常使用JSON格式,然而,JSON... 目录问题背景1. 问题描述2. 错误分析解决方案1. 手动重新输入jsON2. 使用工具清理JSON3.

Springboot整合Redis主从实践

《Springboot整合Redis主从实践》:本文主要介绍Springboot整合Redis主从的实例,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录前言原配置现配置测试LettuceConnectionFactory.setShareNativeConnect

Springboot3+将ID转为JSON字符串的详细配置方案

《Springboot3+将ID转为JSON字符串的详细配置方案》:本文主要介绍纯后端实现Long/BigIntegerID转为JSON字符串的详细配置方案,s基于SpringBoot3+和Spr... 目录1. 添加依赖2. 全局 Jackson 配置3. 精准控制(可选)4. OpenAPI (Spri