JDBC PreparedStatement 批量查询 in 的实现 方案

2024-02-11 18:18

本文主要是介绍JDBC PreparedStatement 批量查询 in 的实现 方案,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!


    我们经常会有这种业务需求,根据一个条件集合去查询一张表的数据,比如:
select  *  from  all_element t  where  t.task_id  in  ( List  <taskids>);
    在java语言中,我们需要用到JDBC来和数据库打交道,那么在JDBC中该如何处理这种需求呢?我们可以有如下几种处理方式

方案一:写一个函数把参数集合转换成一个or 条件 或 in 条件的字符串,最后拼成一个sql

select  *  from  all_element t  where  t.task_id  in  ( 123  , 456 ,  789 );
或者是:
select   from  all_element t  where  t.task_id=123 or  t.task_id=   456  t.task_id=  789 ;

    但是这样效率如何呢?我们知道Oracle对传过来的SQL是需要事先编译的,不过是Oracle有个缓存功能可以缓存编译好的SQL,但前提是传过来的SQL必须完全一致,很明显,如果按照以上方式的话,一旦taskid值变化,那么Oracle的缓存便无法利用。

方案二:使用预编译的PrepareStatement

    为了解决Oracle缓存无法利用问题,Jdbc提供了预编译的 PrepareStatement,对于变化的参数可以用占位符 < ?>  来代替,因此我们可以用占位符来减少Oracle编译次数。
          private   static   final  String QUERY =  "select * from all_element where taskId = ?" ;
          ps = con .prepareStatement(QUERY);
           for (String taskId : taskIds){
             ps.setInt(1, taskId);
             rs = ps .executeQuery();
          }
    这样做虽然可以很好的利用Oracle的缓存,但缺点也很明显,就是每一个Id都需要查询数据库一次,这样效率是极低的。

方案三:动态地创建PrepareStatement

    虽然变化的参数可以用占位符 < ?>  来代替 ,然而遗憾的是Jdbc只提供了单一占位符功能即占位符不能是一个可迭代的集合。因此,对于我们传过来的集合参数,我们可以动态地创建一个 PrepareStatement

    拼一个和集合大小相等数量占位符的SQL,再写一个循环来赋值每一个占位符,这样就可以解决taskId的值变化而导致Oracle重新编译SQL问题。
      private   static   void   createQuery(List<String> taskIds) {
          String query =  "select * from all_element t where t.task_id in (" ;
          StringBuilder queryBuilder =  new  StringBuilder(query);
            for  (  int  i = 0; i < taskIds.size(); i++) {
              queryBuilder.append(  " ?" );
                if  (i != taskIds.size() - 1)
                   queryBuilder.append(  "," );
          }
          queryBuilder.append(  ")" );
           ps = con .prepareStatement(query);
            for  (  int  i = 1; i <= taskIds.size(); i++) {
               ps.setInt(i, taskIds.get(i - 1));
          }
           rs = ps .executeQuery();
     }
    但是这么做还是存在一个问题,如果集合的值变化不会导致Oracle重新编译,但是如果集合的大小发生变化,相对应的SQL也就发生了变化,同样也会导致Oracle重新编译,那么该如何解决这个问题呢?

方案四:批量查询(减少查询次数并利用到Oracle缓存)

    批量查询兼顾了第二、第三种方案,其思想是预先定义好几个每次要查询参数的个数,然后把参数集合按这些定义好的值划分成小组。比如我们的前台传过来一个数量为75的taskId的集合,我预定义的批量查询参数的个数分别为:
     SINGLE_BATCH  = 1; //注意:为了把参数集合完整划分,这个值为1的批量数是必须的
     SMALL_BATCH  = 4;
     MEDIUM_BATCH  = 11;
     LARGE_BATCH  = 51;

    那么我们第一次会查询51条数据,还剩下24个没有查询,那么第二次批量查询11条数据,还剩下13条未查询,第三次再批量查询11条数据,最后还剩2条未查询,那么我们再分两批次,每批次仅查询一条,这样,最终一个75条的数据分5批次即可查询完成,减少了查询次数,而且还利用到了数据库缓存。附获取批量的算法:
      public   static   final   int   SINGLE_BATCH  = 1;   //注意:为了把参数集合完整划分,这个值为1的批量数是必须的
       public   static   final   int   SMALL_BATCH  = 4;
       public   static   final   int   MEDIUM_BATCH  = 11;
       public   static   final   int   LARGE_BATCH  = 51;
       static   int   totalNumberOfValuesLeftToBatch =75;
       public   static  List<Integer>  getBatchSize(  int  totalNumberOfValuesLeftToBatch){
          List<Integer> batches=  new  ArrayList<Integer>();
            while  ( totalNumberOfValuesLeftToBatch > 0 ) {
                int  batchSize =  SINGLE_BATCH ;
                if  ( totalNumberOfValuesLeftToBatch >=  LARGE_BATCH  ) {
                batchSize =  LARGE_BATCH ;
              }  else   if  ( totalNumberOfValuesLeftToBatch >=  MEDIUM_BATCH  ) {
                batchSize =  MEDIUM_BATCH ;
              }  else   if  ( totalNumberOfValuesLeftToBatch >=  SMALL_BATCH  ) {
                batchSize =  SMALL_BATCH ;
              }
              batches.add(batchSize);
              totalNumberOfValuesLeftToBatch -= batchSize;
              System.  out .println(batchSize);
          }
            return  batches;
     }







这篇关于JDBC PreparedStatement 批量查询 in 的实现 方案的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/700490

相关文章

SpringBoot中SM2公钥加密、私钥解密的实现示例详解

《SpringBoot中SM2公钥加密、私钥解密的实现示例详解》本文介绍了如何在SpringBoot项目中实现SM2公钥加密和私钥解密的功能,通过使用Hutool库和BouncyCastle依赖,简化... 目录一、前言1、加密信息(示例)2、加密结果(示例)二、实现代码1、yml文件配置2、创建SM2工具

Mysql实现范围分区表(新增、删除、重组、查看)

《Mysql实现范围分区表(新增、删除、重组、查看)》MySQL分区表的四种类型(范围、哈希、列表、键值),主要介绍了范围分区的创建、查询、添加、删除及重组织操作,具有一定的参考价值,感兴趣的可以了解... 目录一、mysql分区表分类二、范围分区(Range Partitioning1、新建分区表:2、分

MySQL 定时新增分区的实现示例

《MySQL定时新增分区的实现示例》本文主要介绍了通过存储过程和定时任务实现MySQL分区的自动创建,解决大数据量下手动维护的繁琐问题,具有一定的参考价值,感兴趣的可以了解一下... mysql创建好分区之后,有时候会需要自动创建分区。比如,一些表数据量非常大,有些数据是热点数据,按照日期分区MululbU

MySQL中查找重复值的实现

《MySQL中查找重复值的实现》查找重复值是一项常见需求,比如在数据清理、数据分析、数据质量检查等场景下,我们常常需要找出表中某列或多列的重复值,具有一定的参考价值,感兴趣的可以了解一下... 目录技术背景实现步骤方法一:使用GROUP BY和HAVING子句方法二:仅返回重复值方法三:返回完整记录方法四:

IDEA中新建/切换Git分支的实现步骤

《IDEA中新建/切换Git分支的实现步骤》本文主要介绍了IDEA中新建/切换Git分支的实现步骤,通过菜单创建新分支并选择是否切换,创建后在Git详情或右键Checkout中切换分支,感兴趣的可以了... 前提:项目已被Git托管1、点击上方栏Git->NewBrancjsh...2、输入新的分支的

从入门到精通MySQL联合查询

《从入门到精通MySQL联合查询》:本文主要介绍从入门到精通MySQL联合查询,本文通过实例代码给大家介绍的非常详细,需要的朋友可以参考下... 目录摘要1. 多表联合查询时mysql内部原理2. 内连接3. 外连接4. 自连接5. 子查询6. 合并查询7. 插入查询结果摘要前面我们学习了数据库设计时要满

Python实现对阿里云OSS对象存储的操作详解

《Python实现对阿里云OSS对象存储的操作详解》这篇文章主要为大家详细介绍了Python实现对阿里云OSS对象存储的操作相关知识,包括连接,上传,下载,列举等功能,感兴趣的小伙伴可以了解下... 目录一、直接使用代码二、详细使用1. 环境准备2. 初始化配置3. bucket配置创建4. 文件上传到os

MySQL查询JSON数组字段包含特定字符串的方法

《MySQL查询JSON数组字段包含特定字符串的方法》在MySQL数据库中,当某个字段存储的是JSON数组,需要查询数组中包含特定字符串的记录时传统的LIKE语句无法直接使用,下面小编就为大家介绍两种... 目录问题背景解决方案对比1. 精确匹配方案(推荐)2. 模糊匹配方案参数化查询示例使用场景建议性能优

关于集合与数组转换实现方法

《关于集合与数组转换实现方法》:本文主要介绍关于集合与数组转换实现方法,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1、Arrays.asList()1.1、方法作用1.2、内部实现1.3、修改元素的影响1.4、注意事项2、list.toArray()2.1、方

使用Python实现可恢复式多线程下载器

《使用Python实现可恢复式多线程下载器》在数字时代,大文件下载已成为日常操作,本文将手把手教你用Python打造专业级下载器,实现断点续传,多线程加速,速度限制等功能,感兴趣的小伙伴可以了解下... 目录一、智能续传:从崩溃边缘抢救进度二、多线程加速:榨干网络带宽三、速度控制:做网络的好邻居四、终端交互