自己造轮子系列(一)------数据库连接池的实现

2024-06-19 16:48

本文主要是介绍自己造轮子系列(一)------数据库连接池的实现,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

一、什么是数据库连接池

拿公交司机做比方,司机要开车了,不可能马上开车的时候去造一辆车,开完车又给销毁了,这样做很大一部分时间将浪费在造车上面,效率非常的低下。正确的做法是已经造好车辆,开车的时候,从车库里面提一辆出去,开完车又把车辆放回车库,这样做会提高效率。连接池的工作原理也是如此。


数据库的获取链接与释放连接非常消耗系统资源,在我的笔记本上,用mysql数据库,获得15个连接要花费900ms的时间,如果在算上释放连接的时间,还会更长。而使用的数据库连接查询往往很快,这就造成了数据访问效率的低下。如果在系统启动时,就获取一定部分的数据库连接,应用程序使用时直接从已有的连接中获取,程序使用完毕就回收回来,这样就减少了获取连接和释放连接的时间,提高了数据访问的效率。

数据库连接池负责分配、管理和释放数据库连接,它允许应用程序重复使用一个现有的数据库连接,而不是再重新建立一个;释放空闲时间超过最大空闲时间的数据库连接来避免因为没有释放数据库连接而引起的数据库连接遗漏。这项技术能明显提高对数据库操作的性能。(百度百科:数据库连接池词条)

二、数据库连接池的设计思路

2.1 需求分析

       Java的数据库访问方式常见的有两种:JDBC和ODBC。对于每一种连接方式,

都要有以下几个参数

    Username :数据库用户名

    Password : 数据库连接密码

    ConnetionUrl:数据库连接字符串。如:jdbc:mysql://localhost:3306/demo_db

    DriveClass  : 连接驱动类 如:com.mysql.jdbc.Driver

对于连接池来讲,还有要以下几个参数

    MaxPoolSize: 连接池中最大连接数

    MinPoolSize: 连接池中最小连接数

    InitPoolSize:     初始连接数

    DispoilTime :  从未使用的连接的回收时间

对于这些参数,在开发中有可能以不同的方式配置,有可能配置到数据库中,有可能配置到xml中,也有可能配置到.property文件中。所以要有不同的读取器去加载这些配置参数,并统一返回参数信息。

2.2 UML类图设计

ConnetionPoolManager 连接池管理类。这个类的目的是一方面针对不同连接类型,选择不同的连接池实现,并对连接池生命周期进行管理,负责连接池的产生与销毁。另一方面,对于配置文件不同的存在方式,选择恰当的读取器。


reader : 接口,配置文件读取器。可以针对不同的配置文件进行具体实现。


                   ConnetionPropertiesReader实现关系

 

connectionProperties 用于封装配置文件的内容,独立与配置文件的形式,获取方式由不同的reader返回。

 

pool 接口,数据库连接池,提供数据库连接的核心功能。可以针对不同的类型基于不同的实现

 

纵观整个框架,设计应该呈现这样的框架:


连接池算法描述与实现

因为会出现并发问题,在设计算法的时候,我加入了并发情况的处理,程序设计也使用了Concurrent包下面的类,做同步控制。实现的时候,无论是单例获取线程池还是获取连接,都加入了synchronized关键字

算法描述

数据库连接池就是事先将连接创建好,程序用到的时候给予,不用的时候回收。连接池的数量也可以动态拓展,但是有个上限maxPoolSize,同时也有个下限minPoolSize。

我们定义两个数组A,B。A数组放置空闲的连接,B数组放置正在使用的连接。

A,B两个数组的中连接数总和为currentPoolSize。其中currentPoolSize>=minPoolSize&&currentPoolSize<=maxPoolSize。

       假设应用程序App此时向连接池申请一个连接。会遇到如下几种情形:

1.     A数组中有闲置连接,向程序返回一个数据库连接,同时将此连接移到数组B中维护。

2.     A中无可用连接。当前A、B中的连接总数currentPoolSize<maxPoolSize。此时可以新建连接。currentPoolSize自加,B中添加一个刚刚新建的连接。

3.     A中无可用连接。当前A、B中的连接总数currentPoolSize>=maxPoolSize.此时应用程序应该等待。直到其他程序释放连接。或者正在使用的连接失效,从而被移除连接池,此时可以新建连接返回。


我们同时需要启动另外一个线程,定时检测哪些连接长时间闲置,如果currentPoolSize> minPoolSize的时候,我们就可以把该连接回收。这样的机制,就可以维持连接池的连接池维持在minPoolSize与maxPoolSize之间。


因为currentPoolSize与maxPoolSize大小关系会发生变化,所以我们要启动一个checkEqual线程去检测这两个变量之间的关系,这个线程在获取连接wait()时启动。

API介绍

Executors:用来获取线程池ExecutorService。
Callable:任务描述接口,与Future配合获得返回值。Runnable接口没有返回值。在程序中,我实现这个接口用于返回连接Connetion
Future:对当前任务进行管理,可以获得返回值。也可以终止任务的进行。当返回值没获取到时,自动阻塞线程。ExecutorService调用submit方法可以获得Future对象
synchronized : 同步关键字,获取该对象的锁
ScheduledExecutorService:可以实现任务的定时执行。常用的方法有scheduleWithFixedDelay。程序中我用这个类定时检测长时间未使用或者失效连接
注意:scheduleWithFixedDelay执行任务的时候调用了notify(),则该任务将停止工作

 算法实现

package com.acvoice.connection;import java.sql.Connection;
import java.sql.DriverManager;
import java.sql.SQLException;
import java.util.ArrayList;
import java.util.List;
import java.util.concurrent.Callable;
import java.util.concurrent.ExecutionException;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
import java.util.concurrent.Future;
import java.util.concurrent.ScheduledExecutorService;
import java.util.concurrent.TimeUnit;/*** @author IT民工* @time 2016.7.18* jdbc连接池*/
public class JdbcConnectionPool implements ConnectionPool {private ConnectionProperties properties;volatile private  int  currentPoolSize;private   List<ComConnection> pool; //可用连接池private   List<Connection> usedPoll;//已用连接池private  ExecutorService  exc = Executors.newCachedThreadPool();private static   ConnectionPool connectionPool = null;/*** 初始化连接池* @param pro* @throws ClassNotFoundException* @throws SQLException*/private JdbcConnectionPool(ConnectionProperties pro) throws ClassNotFoundException, SQLException{this.properties = pro;pool = new ArrayList<ComConnection>(properties.getInitPoolSize());usedPoll = new ArrayList<Connection>();Class.forName(properties.getDriverClass());for(int i = 0;i<properties.getInitPoolSize();i++){Connection con =  getConnectionByManager();pool.add(new ComConnection(con, 0));}checkOut();} /*** @param pro* @return 单例模式获取连接池,注意同步* @throws ClassNotFoundException* @throws SQLException*/synchronized public static ConnectionPool getConnnectionPool(ConnectionProperties pro) throws ClassNotFoundException, SQLException{if(connectionPool ==null){connectionPool = new JdbcConnectionPool(pro);} return connectionPool;}/*** 当前可以获取连接时即currentPoolSize<maxPoolSize* @return* @throws InterruptedException* @throws ExecutionException*/synchronized public Connection getConect() throws InterruptedException, ExecutionException{Connection con = null;if(pool.size()==0){//当前可用为0,并且还可以拓展Callable<Connection> c = new Callable<Connection>() {public Connection call() throws Exception {return getConnectionByManager();}	};for(int i = 0;i<3;i++){//尝试三次,获取,如果三次都没有获取到,就跑出异常Future<Connection> future= exc.submit(c);con = future.get();if(con!=null){usedPoll.add(con);currentPoolSize ++;return con;}}throw new RuntimeException("尝试了最大次数,并没有获得链接");}else{//不为0,可以从空闲列表中获取con = pool.get(pool.size()-1).getConnection();usedPoll.add(con);pool.remove(pool.size()-1);return con;}}/*** @return* @throws SQLException* 从连接池manger中获取*/private Connection getConnectionByManager() throws SQLException{Connection connection = DriverManager.getConnection(properties.getConnectionUrl(),properties.getUsername(),properties.getPassword());return connection;}/* (non-Javadoc)* @see com.acvoice.ConnectionPool#getConnection()*/synchronized public  Connection  getConnection(){Connection con = null;try {if(currentPoolSize>=properties.getMaxPoolSize()&&pool.size()==0){checkEquel();//启动一个现成去检测currentPoolSize与MaxPoolSize的关系wait();//等待,可以拓展con = getConect();}else{con = getConect();}} catch (InterruptedException e) {e.printStackTrace();}catch (ExecutionException e) {e.printStackTrace();}return con;}	/* (non-Javadoc)* @see com.acvoice.ConnectionPool#realse(java.sql.Connection)*/synchronized public void realse(Connection connection ){pool.add(new ComConnection(connection, 0));//回收可用,并且重新计时usedPoll.remove(connection);//把已用连接池中的该连接的引用移除掉notify();}/*** 每隔1分钟维护列表,把空闲时间比较长的连接释放掉,把不可用的连接也释放掉*/synchronized private void  checkOut(){Runnable r = new Runnable() {public void run() {try {for(int i=usedPoll.size()-1;i>=0;i--){try {//检测连接是否可用if(usedPoll.get(i).isValid(100)){}else{usedPoll.remove(i);currentPoolSize--;}} catch (SQLException e) {e.printStackTrace();}}for(int i=pool.size()-1;i>=0;i--){try {//检测连接是否可用if(pool.get(i).getConnection().isValid(100)){}else{pool.remove(i);currentPoolSize--;}} catch (SQLException e) {e.printStackTrace();}}for(int i =pool.size()-1;i>=0;i--){//长时间空闲的释放掉ComConnection com = pool.get(i);if(pool.get(i).getCount()>properties.getDispoilTime()&¤tPoolSize>properties.getMinPoolSize()){	try {com.getConnection().close();pool.remove(i);com =null;currentPoolSize--;} catch (SQLException e) {e.printStackTrace();}}else{com.setCount(com.getCount()+1);}}} finally{}}};ScheduledExecutorService set = Executors.newScheduledThreadPool(1);//定时检测set.scheduleWithFixedDelay(r, 1, 1, TimeUnit.MINUTES);}/*** 改线程检测currentPoolSize与maxPoolSize的关系,如果关系发生变化,就唤醒等待线程*/synchronized private void checkEquel(){Runnable r = new Runnable() {public void run() {while(currentPoolSize>=properties.getMaxPoolSize()){}notify();}};exc.execute(r);}/*** @author zhao* 该内部类用处存储当前Connection与空闲时间* count为计时几次。*/private class ComConnection implements Comparable<ComConnection>{public Connection getConnection() {return connection;}public ComConnection(Connection connection, Integer count) {super();this.connection = connection;this.count = count;}public Integer getCount() {return count;}public void setCount(Integer count) {this.count = count;}Connection connection;Integer count;public int compareTo(ComConnection o) {if(o.getCount()>count)return -1;return 1;}}synchronized public void destroy() {for(int i=pool.size();i>=0;i--){try {pool.get(i).getConnection().close();pool.remove(i);} catch (SQLException e) {// TODO Auto-generated catch blocke.printStackTrace();}}for(int i=usedPoll.size();i>=0;i--){try {usedPoll.get(i).close();usedPoll.remove(i);} catch (SQLException e) {e.printStackTrace();}}
}
}


这篇关于自己造轮子系列(一)------数据库连接池的实现的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1075593

相关文章

使用Redis快速实现共享Session登录的详细步骤

《使用Redis快速实现共享Session登录的详细步骤》在Web开发中,Session通常用于存储用户的会话信息,允许用户在多个页面之间保持登录状态,Redis是一个开源的高性能键值数据库,广泛用于... 目录前言实现原理:步骤:使用Redis实现共享Session登录1. 引入Redis依赖2. 配置R

SpringBoot实现RSA+AES自动接口解密的实战指南

《SpringBoot实现RSA+AES自动接口解密的实战指南》在当今数据泄露频发的网络环境中,接口安全已成为开发者不可忽视的核心议题,RSA+AES混合加密方案因其安全性高、性能优越而被广泛采用,本... 目录一、项目依赖与环境准备1.1 Maven依赖配置1.2 密钥生成与配置二、加密工具类实现2.1

在Java中实现线程之间的数据共享的几种方式总结

《在Java中实现线程之间的数据共享的几种方式总结》在Java中实现线程间数据共享是并发编程的核心需求,但需要谨慎处理同步问题以避免竞态条件,本文通过代码示例给大家介绍了几种主要实现方式及其最佳实践,... 目录1. 共享变量与同步机制2. 轻量级通信机制3. 线程安全容器4. 线程局部变量(ThreadL

python使用Akshare与Streamlit实现股票估值分析教程(图文代码)

《python使用Akshare与Streamlit实现股票估值分析教程(图文代码)》入职测试中的一道题,要求:从Akshare下载某一个股票近十年的财务报表包括,资产负债表,利润表,现金流量表,保存... 目录一、前言二、核心知识点梳理1、Akshare数据获取2、Pandas数据处理3、Matplotl

分布式锁在Spring Boot应用中的实现过程

《分布式锁在SpringBoot应用中的实现过程》文章介绍在SpringBoot中通过自定义Lock注解、LockAspect切面和RedisLockUtils工具类实现分布式锁,确保多实例并发操作... 目录Lock注解LockASPect切面RedisLockUtils工具类总结在现代微服务架构中,分布

Java使用Thumbnailator库实现图片处理与压缩功能

《Java使用Thumbnailator库实现图片处理与压缩功能》Thumbnailator是高性能Java图像处理库,支持缩放、旋转、水印添加、裁剪及格式转换,提供易用API和性能优化,适合Web应... 目录1. 图片处理库Thumbnailator介绍2. 基本和指定大小图片缩放功能2.1 图片缩放的

Python使用Tenacity一行代码实现自动重试详解

《Python使用Tenacity一行代码实现自动重试详解》tenacity是一个专为Python设计的通用重试库,它的核心理念就是用简单、清晰的方式,为任何可能失败的操作添加重试能力,下面我们就来看... 目录一切始于一个简单的 API 调用Tenacity 入门:一行代码实现优雅重试精细控制:让重试按我

Redis客户端连接机制的实现方案

《Redis客户端连接机制的实现方案》本文主要介绍了Redis客户端连接机制的实现方案,包括事件驱动模型、非阻塞I/O处理、连接池应用及配置优化,具有一定的参考价值,感兴趣的可以了解一下... 目录1. Redis连接模型概述2. 连接建立过程详解2.1 连php接初始化流程2.2 关键配置参数3. 最大连

Python实现网格交易策略的过程

《Python实现网格交易策略的过程》本文讲解Python网格交易策略,利用ccxt获取加密货币数据及backtrader回测,通过设定网格节点,低买高卖获利,适合震荡行情,下面跟我一起看看我们的第一... 网格交易是一种经典的量化交易策略,其核心思想是在价格上下预设多个“网格”,当价格触发特定网格时执行买

Oracle数据库定时备份脚本方式(Linux)

《Oracle数据库定时备份脚本方式(Linux)》文章介绍Oracle数据库自动备份方案,包含主机备份传输与备机解压导入流程,强调需提前全量删除原库数据避免报错,并需配置无密传输、定时任务及验证脚本... 目录说明主机脚本备机上自动导库脚本整个自动备份oracle数据库的过程(建议全程用root用户)总结