Hikari 数据库连接池内部源码实现细节

2024-08-31 18:08

本文主要是介绍Hikari 数据库连接池内部源码实现细节,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Hikari 默认几个超时配置

连接创建超时时间 30s
private static final long CONNECTION_TIMEOUT = SECONDS.toMillis(30);

连接存活验证时间5s,这个时间就是验证时socketTimeout,验证之后恢复为0,
但是真正做数据查询时默认为0,表示永不超时
private static final long VALIDATION_TIMEOUT = SECONDS.toMillis(5);

连接空闲时间10分钟
private static final long IDLE_TIMEOUT = MINUTES.toMillis(10);

连接最大存活时间30分钟
private static final long MAX_LIFETIME = MINUTES.toMillis(30);

Hikari 连接池中默认连接数量为10

默认最小连接数等于最大相同未为10
private static final int DEFAULT_POOL_SIZE = 10;

Hikari通过CopyOnWriteArrayList保存所有的连接

com.zaxxer.hikari.util.ConcurrentBag#sharedList

线程无法获取连接时通过SynchronousQueue实现公平阻塞等待

当池的连接被用尽,Hikari通过SynchronousQueue实现让线程阻塞等待,并且采用的是公平锁。
源码见com.zaxxer.hikari.util.ConcurrentBag#handoffQueue以及com.zaxxer.hikari.util.ConcurrentBag#ConcurrentBag构造方法

Hikari内部有三个单线程的 线程池 对象

  • houseKeepingExecutorServiceaddConnectionExecutorcloseConnectionExecutor 分别是都只有一条线程的线程池,源码见:com.zaxxer.hikari.pool.HikariPool
  • houseKeepingExecutorService是一个ScheduledExecutorService对象。池中每创建一个连接,就会被封装成一个PoolEntry对象,然后放在定时任务中,定时时间就是设置的max-lifetime。只要到达这个时间就会采取软驱逐的方式从池中移除。
  • 除此之外,houseKeepingExecutorService还用于每隔30s来检查一次池中的空闲连接、最大连接情况,并通过调用异步创建连接异步销毁连接的方法来维护池中连接数的平衡。

何谓软驱逐

  • 如果这个连接正在被使用,则不立即关闭连接,但是通过PoolEntry对象中的private volatile boolean evict;字段来标记为需要关闭。下次有线程来获取到这个连接时,发现evict=true则调用异步关闭方法。重新获取池中其它的连接。
  • 如果这个连接未被使用,则立即调用异步关闭连接的方法。

池中连接的创建,关闭,除了初始化时只同步创建1条,其它都是异步的。

  • 创建连接通过addConnectionExecutor(ThreadPoolExecutor)来完成,关闭连接通过closeConnectionExecutor(ThreadPoolExecutor)来完成.
    这两个线程池都每个都只有一个线程。加上houseKeepingExecutorService,那么一个Hikari连接池会创建3条线程!!!

  • 可以通过启动参数-Dcom.zaxxer.hikari.blockUntilFilledInitializationFailTimeout单位ms,来让Hikari启动时等待创建完成设置的最小连接数。默认为false

一个connection本质上就是一个socket连接

一个连接池中,有多少个connection连接则对应多少个 socket 对象与服务端的连接。

Hikari中会使用ThreadLocal来将连接绑定到线程

Hikari为了提高从池中获取连接的性能,通过ThreadLocal来避免资源竞争,一个connection可以对应多个Thread,一个Thread可以绑定多个connection,源码见ConcurrentBag类中的成员变量private final ThreadLocal<List<Object>> threadList;

为什么ThreadLocal里面的泛型是List< Object >?

因为一个connection可以在不同时期被多个线程使用,当另一个线程绑定的connection正在被别的线程使用时,就需要选择其它没有被使用的connection,新选择的connection同样需要绑定到这条线程,所以使用的是List来保存。源码见:com.zaxxer.hikari.util.ConcurrentBag#borrow

什么时候向ThreadLocal里面保存connection?

当调用连接池中connection释放资源的时候回收,这里的connection实际上是Hikari实现的一个代理类(ProxyConnection),封装了JDBC 连接。
源码见:com.zaxxer.hikari.pool.ProxyConnection#close

Hikari如何做到连接的回收

通过ProxyConnection代理类来实现。源码见:com.zaxxer.hikari.pool.ProxyConnection#close

Hikari通过CAS乐观锁来控制连接当前状态

Hikari通过PoolEntry来封装Connection,并通过private volatile int state来记录Connection当前状态,主要有如下几个枚举值,并通过CAS乐观锁来维护这些状态,提高多线程之间获取连接的性能.

public interface IConcurrentBagEntry{int STATE_NOT_IN_USE = 0;int STATE_IN_USE = 1;int STATE_REMOVED = -1;int STATE_RESERVED = -2;boolean compareAndSet(int expectState, int newState);void setState(int newState);int getState();
}

获取连接,对验证连接可用性的优化

每次从池中获取连接后,先判断连接最后访问时间和当前时间差,如果小于500ms,则直接认为连接是可用的,避免向服务器发送验证的sql语句,提高连接池性能。源码见:com.zaxxer.hikari.pool.HikariPool#getConnection(long hardTimeout)

 if (poolEntry.isMarkedEvicted() || (elapsedMillis(poolEntry.lastAccessed, now) > aliveBypassWindowMs && !isConnectionAlive(poolEntry.connection))) {closeConnection(poolEntry, poolEntry.isMarkedEvicted() ? EVICTED_CONNECTION_MESSAGE : DEAD_CONNECTION_MESSAGE);timeout = hardTimeout - elapsedMillis(startTime);}

否则需要验证连接可用性:
如果配置了connection-test-query则使用配置sql验证,否则使用数据库驱动程序实现的java.sql.Connection#isValid(int timeout)方法验证。源码见:com.zaxxer.hikari.pool.PoolBase#isConnectionAlive

如果连接不可用,会输出警告日志

如果验证连接可用性过程,连接因为数据库wait_timeout超时被服务端关闭,或者网络异常,则会出现如下警告日志,

Failed to validate connection com.mysql.cj.jdbc.ConnectionImpl@2e2ce118 (No operations allowed after connection closed.). Possibly consider using a shorter maxLifetime value.

解决方案参考我的另一篇博客:Failed to validate connection com.mysql.cj.jdbc.ConnectionImpl问题排查

这篇关于Hikari 数据库连接池内部源码实现细节的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1124622

相关文章

SQL Server修改数据库名及物理数据文件名操作步骤

《SQLServer修改数据库名及物理数据文件名操作步骤》在SQLServer中重命名数据库是一个常见的操作,但需要确保用户具有足够的权限来执行此操作,:本文主要介绍SQLServer修改数据... 目录一、背景介绍二、操作步骤2.1 设置为单用户模式(断开连接)2.2 修改数据库名称2.3 查找逻辑文件名

C++中零拷贝的多种实现方式

《C++中零拷贝的多种实现方式》本文主要介绍了C++中零拷贝的实现示例,旨在在减少数据在内存中的不必要复制,从而提高程序性能、降低内存使用并减少CPU消耗,零拷贝技术通过多种方式实现,下面就来了解一下... 目录一、C++中零拷贝技术的核心概念二、std::string_view 简介三、std::stri

SQL Server数据库死锁处理超详细攻略

《SQLServer数据库死锁处理超详细攻略》SQLServer作为主流数据库管理系统,在高并发场景下可能面临死锁问题,影响系统性能和稳定性,这篇文章主要给大家介绍了关于SQLServer数据库死... 目录一、引言二、查询 Sqlserver 中造成死锁的 SPID三、用内置函数查询执行信息1. sp_w

C++高效内存池实现减少动态分配开销的解决方案

《C++高效内存池实现减少动态分配开销的解决方案》C++动态内存分配存在系统调用开销、碎片化和锁竞争等性能问题,内存池通过预分配、分块管理和缓存复用解决这些问题,下面就来了解一下... 目录一、C++内存分配的性能挑战二、内存池技术的核心原理三、主流内存池实现:TCMalloc与Jemalloc1. TCM

OpenCV实现实时颜色检测的示例

《OpenCV实现实时颜色检测的示例》本文主要介绍了OpenCV实现实时颜色检测的示例,通过HSV色彩空间转换和色调范围判断实现红黄绿蓝颜色检测,包含视频捕捉、区域标记、颜色分析等功能,具有一定的参考... 目录一、引言二、系统概述三、代码解析1. 导入库2. 颜色识别函数3. 主程序循环四、HSV色彩空间

Python实现精准提取 PDF中的文本,表格与图片

《Python实现精准提取PDF中的文本,表格与图片》在实际的系统开发中,处理PDF文件不仅限于读取整页文本,还有提取文档中的表格数据,图片或特定区域的内容,下面我们来看看如何使用Python实... 目录安装 python 库提取 PDF 文本内容:获取整页文本与指定区域内容获取页面上的所有文本内容获取

基于Python实现一个Windows Tree命令工具

《基于Python实现一个WindowsTree命令工具》今天想要在Windows平台的CMD命令终端窗口中使用像Linux下的tree命令,打印一下目录结构层级树,然而还真有tree命令,但是发现... 目录引言实现代码使用说明可用选项示例用法功能特点添加到环境变量方法一:创建批处理文件并添加到PATH1

Java使用HttpClient实现图片下载与本地保存功能

《Java使用HttpClient实现图片下载与本地保存功能》在当今数字化时代,网络资源的获取与处理已成为软件开发中的常见需求,其中,图片作为网络上最常见的资源之一,其下载与保存功能在许多应用场景中都... 目录引言一、Apache HttpClient简介二、技术栈与环境准备三、实现图片下载与保存功能1.

canal实现mysql数据同步的详细过程

《canal实现mysql数据同步的详细过程》:本文主要介绍canal实现mysql数据同步的详细过程,本文通过实例图文相结合给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的... 目录1、canal下载2、mysql同步用户创建和授权3、canal admin安装和启动4、canal

Nexus安装和启动的实现教程

《Nexus安装和启动的实现教程》:本文主要介绍Nexus安装和启动的实现教程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、Nexus下载二、Nexus安装和启动三、关闭Nexus总结一、Nexus下载官方下载链接:DownloadWindows系统根