easypoi大量数据导出,解决oom的问题,分多个sheet导出

2024-08-21 09:36

本文主要是介绍easypoi大量数据导出,解决oom的问题,分多个sheet导出,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

使用easypoi一次性导出大量数据时,会出现oom的问题,有两种解决方式,一种是分页导出,数据查询使用分页,然后将分页的数据放到不同的sheet中;第二种呢就是使用SXSSFWorkbook,SXSSFWorkbook可以实现百万级数据导出。

分页导出

分页导出呢,就比较麻烦一点。

分页的方式两两种,需要实现的效果都是为了将全部数据分开放到多个sheet。所以这些数据你可以一次性全部查询出来,再对数据进行分页放到不同sheet中;也可以分页查询数据,将查出来的数据放到不同sheet中。

看自己觉得哪一种方法更好一点,我自己用的是分页查询数据的方式:

/*** 列表导出*/
public void pageExport(Map<String,Object> map, HttpServletResponse response){int pageSize = 10000; // 一万条数据一个sheetint pageNum = 1;map.put("pageSize",String.valueOf(pageSize));map.put("pageNum",String.valueOf(pageNum));PageInfo<SysUser> page = page(map); // 分页查询数据long total = page.getTotal(); // 得到总数据量List<SysUser> list1 = page.getList();// 计算总页数pageNum = (int) (total % pageSize == 0 ? total / pageSize : total / pageSize + 1);// 每一个sheet储存的数据List<Map<String, Object>> sheetsList = new LinkedList<>();// 设置sheet配置样式ExportParams params = new ExportParams(null,"Sheet1",ExcelType.XSSF);params.setTitleHeight((short) 12);params.setStyle(ExcelStyleUtil.class); // 设置基础样式,ExcelStyleUtil为自定义的样式工具类// 以下3个参数为API中写死的参数名 分别是sheet配置/导出类(注解定义)/数据集Map<String, Object> exportMap = MapUtil.builder(new HashMap<String, Object>()).put("title",params).put("entity", SysUser.class).put("data", list1).build();sheetsList.add(exportMap);for (int i = 2; i <= pageNum; i++) {map.put("pageNum",String.valueOf(i));List<SysUser> listi = page(map).getList();ExportParams param = new ExportParams(null,"Sheet"+i,ExcelType.XSSF);param.setTitleHeight((short) 12);param.setStyle(ExcelStyleUtil.class);exportMap = MapUtil.builder(new HashMap<String, Object>()).put("title",param).put("entity", SysUser.class).put("data", listi).build();// 加入多sheet配置列表sheetsList.add(exportMap);}Workbook workbook = ExcelExportUtil.exportExcel(sheetsList, ExcelType.XSSF);ExcelUtil.downLoadExcel("列表数据",response,workbook);
}

虽然上面这段代码能实现导出了,不会报oom了,但是导出还是很慢很慢,当然,数据库查询慢占主要原因。

使用SXSSFWorkbook

第二种方式呢,就没有那么麻烦了,不用分页,一次性在一张sheet里,导出全部数据。

查询数据的时候,同样可以选择分页查询或一次性查询,分页查询就需要将每一页查出来的数据先存起来,等查完了全部数据,再调导出的方法。

/*** 列表导出*/
public void pageExport(Map<String,Object> map, HttpServletResponse response){int pageSize = 10000;int pageNum = 1;map.put("pageSize",String.valueOf(pageSize));map.put("pageNum",String.valueOf(pageNum));PageInfo<SysUser> page = page(map);long total = page.getTotal();pageNum = (int) (total % pageSize == 0 ? total / pageSize : total / pageSize + 1);List<SysUser> dataList = new ArrayList<>();dataList.addAll(page.getList());for (int i = 2; i <= pageNum; i++) {map.put("pageNum",String.valueOf(i));List<SysUser> list = page(map).getList();dataList.addAll(list);}ExcelUtil.exportBigExcel(dataList,null,"Sheet1",SysUser.class,"列表导出",response);
}
/*** excel 导出大数据* @param list           数据* @param title          标题* @param sheetName      sheet名称* @param pojoClass      pojo类型* @param fileName       文件名称*/
public static void exportBigExcel(List<?> list, String title, String sheetName, Class<?> pojoClass, String fileName, HttpServletResponse response){ExportParams params = new ExportParams(title,sheetName, ExcelType.XSSF);params.setTitleHeight((short) 12);params.setStyle(ExcelStyleUtil.class);IWriter<Workbook> writer = ExcelExportUtil.exportBigExcel(params, pojoClass);writer.write(list);SXSSFWorkbook workbook = (SXSSFWorkbook) writer.get();ExcelUtil.downLoadExcel(fileName,response,workbook);writer.close();workbook.dispose();
}

最后我选择的是用第二种方式SXSSFWorkbook导出。

这篇关于easypoi大量数据导出,解决oom的问题,分多个sheet导出的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1092789

相关文章

MySQ中出现幻读问题的解决过程

《MySQ中出现幻读问题的解决过程》文章解析MySQLInnoDB通过MVCC与间隙锁机制在可重复读隔离级别下解决幻读,确保事务一致性,同时指出性能影响及乐观锁等替代方案,帮助开发者优化数据库应用... 目录一、幻读的准确定义与核心特征幻读 vs 不可重复读二、mysql隔离级别深度解析各隔离级别的实现差异

Java整合Protocol Buffers实现高效数据序列化实践

《Java整合ProtocolBuffers实现高效数据序列化实践》ProtocolBuffers是Google开发的一种语言中立、平台中立、可扩展的结构化数据序列化机制,类似于XML但更小、更快... 目录一、Protocol Buffers简介1.1 什么是Protocol Buffers1.2 Pro

C++ vector越界问题的完整解决方案

《C++vector越界问题的完整解决方案》在C++开发中,std::vector作为最常用的动态数组容器,其便捷性与性能优势使其成为处理可变长度数据的首选,然而,数组越界访问始终是威胁程序稳定性的... 目录引言一、vector越界的底层原理与危害1.1 越界访问的本质原因1.2 越界访问的实际危害二、基

Python多线程应用中的卡死问题优化方案指南

《Python多线程应用中的卡死问题优化方案指南》在利用Python语言开发某查询软件时,遇到了点击搜索按钮后软件卡死的问题,本文将简单分析一下出现的原因以及对应的优化方案,希望对大家有所帮助... 目录问题描述优化方案1. 网络请求优化2. 多线程架构优化3. 全局异常处理4. 配置管理优化优化效果1.

Python批量替换多个Word文档的多个关键字的方法

《Python批量替换多个Word文档的多个关键字的方法》有时,我们手头上有多个Excel或者Word文件,但是领导突然要求对某几个术语进行批量的修改,你是不是有要崩溃的感觉,所以本文给大家介绍了Py... 目录工具准备先梳理一下思路神奇代码来啦!代码详解激动人心的测试结语嘿,各位小伙伴们,大家好!有没有想

Java报错:org.springframework.beans.factory.BeanCreationException的五种解决方法

《Java报错:org.springframework.beans.factory.BeanCreationException的五种解决方法》本文解析Spring框架中BeanCreationExce... 目录引言一、问题描述1.1 报错示例假设我们有一个简单的Java类,代表一个用户信息的实体类:然后,

Python实现数据可视化图表生成(适合新手入门)

《Python实现数据可视化图表生成(适合新手入门)》在数据科学和数据分析的新时代,高效、直观的数据可视化工具显得尤为重要,下面:本文主要介绍Python实现数据可视化图表生成的相关资料,文中通过... 目录前言为什么需要数据可视化准备工作基本图表绘制折线图柱状图散点图使用Seaborn创建高级图表箱线图热

Linux部署中的文件大小写问题的解决方案

《Linux部署中的文件大小写问题的解决方案》在本地开发环境(Windows/macOS)一切正常,但部署到Linux服务器后出现模块加载错误,核心原因是Linux文件系统严格区分大小写,所以本文给大... 目录问题背景解决方案配置要求问题背景在本地开发环境(Windows/MACOS)一切正常,但部署到

MySQL磁盘空间不足问题解决

《MySQL磁盘空间不足问题解决》本文介绍查看空间使用情况的方式,以及各种空间问题的原因和解决方案,文中通过示例代码介绍的非常详细,需要的朋友们下面随着小编来一起学习学习吧... 目录查看空间使用情况Binlog日志文件占用过多表上的索引太多导致空间不足大字段导致空间不足表空间碎片太多导致空间不足临时表空间

MySQL数据脱敏的实现方法

《MySQL数据脱敏的实现方法》本文主要介绍了MySQL数据脱敏的实现方法,包括字符替换、加密等方法,通过工具类和数据库服务整合,确保敏感信息在查询结果中被掩码处理,感兴趣的可以了解一下... 目录一. 数据脱敏的方法二. 字符替换脱敏1. 创建数据脱敏工具类三. 整合到数据库操作1. 创建服务类进行数据库