rediscluster下集群应用-rediscluster连接池实现

2024-06-02 15:38

本文主要是介绍rediscluster下集群应用-rediscluster连接池实现,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

 

单例模式在生产环境jedis集群中的应用

 

背景:不久前单位上线一款应用,上了生产环境之后,没过多久,便吃掉了服务器所有的内存,最后导致网站服务挂了。

 

在解决了这一问题之后,我发现这其实是典型的一单例模式,现分享一下。

之前存在问题的老代码如下:

这是导致问题所在的那个关键方法

复制代码

public synchronized static JedisCluster getJedisCluster() {JedisPoolConfig config = new JedisPoolConfig();config.setMaxTotal(MAX_ACTIVE);config.setMaxIdle(MAX_IDLE);config.setMaxWaitMillis(MAX_WAIT);config.setTestOnBorrow(TEST_ON_BORROW);// 集群模式JedisPoolConfig poolConfig = new JedisPoolConfig();Set<HostAndPort> nodes = new HashSet<HostAndPort>();HostAndPort hostAndPort1 = new HostAndPort("服务器地址1", 端口1);HostAndPort hostAndPort2 = new HostAndPort("服务器地址2", 端口2);HostAndPort hostAndPort3 = new HostAndPort("服务器地址3", 端口3);nodes.add(hostAndPort1);nodes.add(hostAndPort2);nodes.add(hostAndPort3);JedisCluster jedisCluster = new JedisCluster(nodes, poolConfig);return jedisCluster;
}

复制代码

以上这段代码是有问题的,大家看出来了吗?

问题在于,虽然方法声明为synchronized static,但是在并发多线程的情况下,并不能保证每个用户线程只生成一个JedisCluster的实例。

这样就会导致每个线程都会创建jedisCluster的实例,就会消耗内存,而且这块内存又没有被及时地释放掉,导致多用户并发以后,快速吃光了服务器的内存。

 

解决方法就是使用单例模式,把JedisCluster作为static的类成员,且使用懒汉单例模式,代码如下:

复制代码

public class OuterClass{...private static JedisCluster jedisCluster = null;...public synchronized static JedisCluster getJedisCluster() {JedisPoolConfig config = new JedisPoolConfig();config.setMaxTotal(MAX_ACTIVE);config.setMaxIdle(MAX_IDLE);config.setMaxWaitMillis(MAX_WAIT);config.setTestOnBorrow(TEST_ON_BORROW);// 集群模式JedisPoolConfig poolConfig = new JedisPoolConfig();Set<HostAndPort> nodes = new HashSet<HostAndPort>();HostAndPort hostAndPort1 = new HostAndPort("服务器地址1", 端口1);HostAndPort hostAndPort2 = new HostAndPort("服务器地址2", 端口2);HostAndPort hostAndPort3 = new HostAndPort("服务器地址3", 端口3);nodes.add(hostAndPort1);nodes.add(hostAndPort2);nodes.add(hostAndPort3);// 只有当jedisCluster为空时才实例化if (jedisCluster == null) {jedisCluster = new JedisCluster(nodes, poolConfig);}return jedisCluster;}
}

复制代码

这样就会保证即使在高并发的环境下,所有用户线程还是只会拥有一个JedisCluster的实例。

 

 

 

这个是https://www.cnblogs.com/davidgu/p/6277924.html  用户的处理方式。

我的解决方式是讲Rediscluster也封装成连接池

import java.util.LinkedHashSet;
import java.util.Set;


import org.apache.commons.pool2.PooledObject; 
import org.apache.commons.pool2.PooledObjectFactory; 
import org.apache.commons.pool2.impl.DefaultPooledObject;


import redis.clients.jedis.HostAndPort;
import redis.clients.jedis.JedisCluster;
import redis.clients.jedis.JedisPoolConfig;


public class LpPoolFactory implements PooledObjectFactory<JedisCluster> {


/**
 * 功能描述:激活资源对象
 * 
 * 什么时候会调用此方法
 * 1:从资源池中获取资源的时候
 * 2:资源回收线程,回收资源的时候,根据配置的 testWhileIdle 参数,
 * 判断 是否执行 factory.activateObject()方法,true 执行,false 不执行
 * @param arg0 
 */
public void activateObject(PooledObject<JedisCluster> arg0) throws Exception {
    System.out.println("activate Object");
}


 
public void destroyObject(PooledObject<JedisCluster> arg0) throws Exception {
    System.out.println("destroy Object");
    JedisCluster JedisCluster = arg0.getObject();
    JedisCluster = null;
}


 
public PooledObject<JedisCluster> makeObject() throws Exception {
    System.out.println("make Object");
    JedisPoolConfig poolConfig = new JedisPoolConfig();  
    // 最大连接数  
    poolConfig.setMaxTotal(300);  
    // 最大空闲数  
    poolConfig.setMaxIdle(10);  
    // 最大允许等待时间,如果超过这个时间还未获取到连接,则会报JedisException异常:  
    // Could not get a resource from the pool  
    poolConfig.setMaxWaitMillis(1000);  
    Set<HostAndPort> nodes = new LinkedHashSet<HostAndPort>();  
    nodes.add(new HostAndPort("192.168.88.140", 7000));  
    nodes.add(new HostAndPort("192.168.88.140", 7001));  
    nodes.add(new HostAndPort("192.168.88.140", 7002));  
    nodes.add(new HostAndPort("192.168.88.140", 7003));  
    nodes.add(new HostAndPort("192.168.88.140", 7004));  
    nodes.add(new HostAndPort("192.168.88.140", 7005));  
    JedisCluster JedisCluster = new JedisCluster(nodes, poolConfig);
    return new DefaultPooledObject<JedisCluster>(JedisCluster);
}


/**
 * 功能描述:钝化资源对象
 * 
 * 什么时候会调用此方法
 * 1:将资源返还给资源池时,调用此方法。
 */
 
public void passivateObject(PooledObject<JedisCluster> arg0) throws Exception {
    System.out.println("passivate Object");
}


/**
 * 功能描述:判断资源对象是否有效,有效返回 true,无效返回 false
 * 
 * 什么时候会调用此方法
 * 1:从资源池中获取资源的时候,参数 testOnBorrow 或者 testOnCreate 中有一个 配置 为 true 时,则调用  factory.validateObject() 方法
 * 2:将资源返还给资源池的时候,参数 testOnReturn,配置为 true 时,调用此方法
 * 3:资源回收线程,回收资源的时候,参数 testWhileIdle,配置为 true 时,调用此方法
 */
 
public boolean validateObject(PooledObject<JedisCluster> arg0) {
    System.out.println("validate Object");
    return true;
}

}

 

import org.apache.commons.pool2.impl.GenericObjectPool;
import org.apache.commons.pool2.impl.GenericObjectPoolConfig;


import redis.clients.jedis.JedisCluster;


public class RedisClusterPool {
public static GenericObjectPool<JedisCluster> objectPool=null;
 static {
  //工厂
    LpPoolFactory factory = new LpPoolFactory();
    //资源池配置
    GenericObjectPoolConfig poolConfig = new GenericObjectPoolConfig();
    //设置最大实例总数
    poolConfig.setMaxTotal(500);
    //控制一个pool最多有多少个状态为idle(空闲的)的jedis实例。 
    poolConfig.setMinIdle(1);
    poolConfig.setMaxIdle(1);
   //表示当borrow(引入)一个jedis实例时,最大的等待时间,如果超过等待时间,则直接抛出JedisConnectionException; 
   poolConfig.setMaxWaitMillis(1000);
   // 在borrow一个jedis实例时,是否提前进行alidate操作;如果为true,则得到的jedis实例均是可用的;  
   poolConfig.setTestOnBorrow(true); 
       // 在还会给pool时,是否提前进行validate操作  
   poolConfig.setTestOnReturn(true); 
   //如果为true,表示有一个idle object evitor线程对idle object进行扫描,如果validate失败,此object会被从pool中drop掉;这一项只有在timeBetweenEvictionRunsMillis大于0时才有意义;
   poolConfig.setTestWhileIdle(true);
   //表示一个对象至少停留在idle状态的最短时间,然后才能被idle object evitor扫描并驱逐;这一项只有在timeBetweenEvictionRunsMillis大于0时才有意义;
   poolConfig.setMinEvictableIdleTimeMillis(6000);
   //表示idle object evitor两次扫描之间要sleep的毫秒数
   poolConfig.setTimeBetweenEvictionRunsMillis(30000);
   //在minEvictableIdleTimeMillis基础上,加入了至少minIdle个对象已经在pool里面了。如果为-1,evicted不会根据idle time驱逐任何对象。如果minEvictableIdleTimeMillis>0,则此项设置无意义,且只有在timeBetweenEvictionRunsMillis大于0时才有意义
  // poolConfig.setSoftMinEvictableIdleTimeMillis();
   
    //创建资源池
objectPool = new GenericObjectPool<JedisCluster>(factory,poolConfig);   
 }
 @SuppressWarnings("finally")
public static JedisCluster getJedisCluster(){
 JedisCluster jedisCluster=null;
 try {
jedisCluster = objectPool.borrowObject();
} catch (Exception e) {
// TODO Auto-generated catch block
e.printStackTrace();
}finally{
return jedisCluster;
}

 }
 public static void closeJedisCluster(JedisCluster jedisCluster ){
 if(jedisCluster!=null){
 objectPool.returnObject(jedisCluster);
 }

 }
}

 

 

jediscluster从slot中取jedis就是从jedispool中取的,所以jedisCluster初始化资源池没有意义。只要保证jedisCluster作为静态方法就好。

 
  1. JedisPool connectionPool = cache.getSlotPool(slot);

  2. if (connectionPool != null) {

  3. // It can't guaranteed to get valid connection because of node

  4. // assignment

  5. return connectionPool.getResource();

  6. }

这位仁兄,想请教一下,使用jediscluster需要自己释放资源吗?

不需要,jedis资源由handler获取,jedisCluster执行command的run方法,runWithRetries负责releaseConnection

也就是说jediscluster的底层实现本来就是用连接池做的,不需要再多此一举去做一个jediscluster的池

这篇关于rediscluster下集群应用-rediscluster连接池实现的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1024380

相关文章

PyTorch核心方法之state_dict()、parameters()参数打印与应用案例

《PyTorch核心方法之state_dict()、parameters()参数打印与应用案例》PyTorch是一个流行的开源深度学习框架,提供了灵活且高效的方式来训练和部署神经网络,这篇文章主要介绍... 目录前言模型案例A. state_dict()方法验证B. parameters()C. 模型结构冻

基于C++的UDP网络通信系统设计与实现详解

《基于C++的UDP网络通信系统设计与实现详解》在网络编程领域,UDP作为一种无连接的传输层协议,以其高效、低延迟的特性在实时性要求高的应用场景中占据重要地位,下面我们就来看看如何从零开始构建一个完整... 目录前言一、UDP服务器UdpServer.hpp1.1 基本框架设计1.2 初始化函数Init详解

Java中Map的五种遍历方式实现与对比

《Java中Map的五种遍历方式实现与对比》其实Map遍历藏着多种玩法,有的优雅简洁,有的性能拉满,今天咱们盘一盘这些进阶偏基础的遍历方式,告别重复又臃肿的代码,感兴趣的小伙伴可以了解下... 目录一、先搞懂:Map遍历的核心目标二、几种遍历方式的对比1. 传统EntrySet遍历(最通用)2. Lambd

springboot+redis实现订单过期(超时取消)功能的方法详解

《springboot+redis实现订单过期(超时取消)功能的方法详解》在SpringBoot中使用Redis实现订单过期(超时取消)功能,有多种成熟方案,本文为大家整理了几个详细方法,文中的示例代... 目录一、Redis键过期回调方案(推荐)1. 配置Redis监听器2. 监听键过期事件3. Redi

SpringBoot全局异常拦截与自定义错误页面实现过程解读

《SpringBoot全局异常拦截与自定义错误页面实现过程解读》本文介绍了SpringBoot中全局异常拦截与自定义错误页面的实现方法,包括异常的分类、SpringBoot默认异常处理机制、全局异常拦... 目录一、引言二、Spring Boot异常处理基础2.1 异常的分类2.2 Spring Boot默

基于SpringBoot实现分布式锁的三种方法

《基于SpringBoot实现分布式锁的三种方法》这篇文章主要为大家详细介绍了基于SpringBoot实现分布式锁的三种方法,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录一、基于Redis原生命令实现分布式锁1. 基础版Redis分布式锁2. 可重入锁实现二、使用Redisso

SpringBoo WebFlux+MongoDB实现非阻塞API过程

《SpringBooWebFlux+MongoDB实现非阻塞API过程》本文介绍了如何使用SpringBootWebFlux和MongoDB实现非阻塞API,通过响应式编程提高系统的吞吐量和响应性能... 目录一、引言二、响应式编程基础2.1 响应式编程概念2.2 响应式编程的优势2.3 响应式编程相关技术

C#实现将XML数据自动化地写入Excel文件

《C#实现将XML数据自动化地写入Excel文件》在现代企业级应用中,数据处理与报表生成是核心环节,本文将深入探讨如何利用C#和一款优秀的库,将XML数据自动化地写入Excel文件,有需要的小伙伴可以... 目录理解XML数据结构与Excel的对应关系引入高效工具:使用Spire.XLS for .NETC

线程池ThreadPoolExecutor应用过程

《线程池ThreadPoolExecutor应用过程》:本文主要介绍如何使用ThreadPoolExecutor创建线程池,包括其构造方法、常用方法、参数校验以及如何选择合适的拒绝策略,文章还讨论... 目录ThreadPoolExecutor构造说明及常用方法为什么强制要求使用ThreadPoolExec

Nginx更新SSL证书的实现步骤

《Nginx更新SSL证书的实现步骤》本文主要介绍了Nginx更新SSL证书的实现步骤,包括下载新证书、备份旧证书、配置新证书、验证配置及遇到问题时的解决方法,感兴趣的了解一下... 目录1 下载最新的SSL证书文件2 备份旧的SSL证书文件3 配置新证书4 验证配置5 遇到的http://www.cppc