easypoi大量数据导出,解决oom的问题,分多个sheet导出

2024-08-21 09:36

本文主要是介绍easypoi大量数据导出,解决oom的问题,分多个sheet导出,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

使用easypoi一次性导出大量数据时,会出现oom的问题,有两种解决方式,一种是分页导出,数据查询使用分页,然后将分页的数据放到不同的sheet中;第二种呢就是使用SXSSFWorkbook,SXSSFWorkbook可以实现百万级数据导出。

分页导出

分页导出呢,就比较麻烦一点。

分页的方式两两种,需要实现的效果都是为了将全部数据分开放到多个sheet。所以这些数据你可以一次性全部查询出来,再对数据进行分页放到不同sheet中;也可以分页查询数据,将查出来的数据放到不同sheet中。

看自己觉得哪一种方法更好一点,我自己用的是分页查询数据的方式:

/*** 列表导出*/
public void pageExport(Map<String,Object> map, HttpServletResponse response){int pageSize = 10000; // 一万条数据一个sheetint pageNum = 1;map.put("pageSize",String.valueOf(pageSize));map.put("pageNum",String.valueOf(pageNum));PageInfo<SysUser> page = page(map); // 分页查询数据long total = page.getTotal(); // 得到总数据量List<SysUser> list1 = page.getList();// 计算总页数pageNum = (int) (total % pageSize == 0 ? total / pageSize : total / pageSize + 1);// 每一个sheet储存的数据List<Map<String, Object>> sheetsList = new LinkedList<>();// 设置sheet配置样式ExportParams params = new ExportParams(null,"Sheet1",ExcelType.XSSF);params.setTitleHeight((short) 12);params.setStyle(ExcelStyleUtil.class); // 设置基础样式,ExcelStyleUtil为自定义的样式工具类// 以下3个参数为API中写死的参数名 分别是sheet配置/导出类(注解定义)/数据集Map<String, Object> exportMap = MapUtil.builder(new HashMap<String, Object>()).put("title",params).put("entity", SysUser.class).put("data", list1).build();sheetsList.add(exportMap);for (int i = 2; i <= pageNum; i++) {map.put("pageNum",String.valueOf(i));List<SysUser> listi = page(map).getList();ExportParams param = new ExportParams(null,"Sheet"+i,ExcelType.XSSF);param.setTitleHeight((short) 12);param.setStyle(ExcelStyleUtil.class);exportMap = MapUtil.builder(new HashMap<String, Object>()).put("title",param).put("entity", SysUser.class).put("data", listi).build();// 加入多sheet配置列表sheetsList.add(exportMap);}Workbook workbook = ExcelExportUtil.exportExcel(sheetsList, ExcelType.XSSF);ExcelUtil.downLoadExcel("列表数据",response,workbook);
}

虽然上面这段代码能实现导出了,不会报oom了,但是导出还是很慢很慢,当然,数据库查询慢占主要原因。

使用SXSSFWorkbook

第二种方式呢,就没有那么麻烦了,不用分页,一次性在一张sheet里,导出全部数据。

查询数据的时候,同样可以选择分页查询或一次性查询,分页查询就需要将每一页查出来的数据先存起来,等查完了全部数据,再调导出的方法。

/*** 列表导出*/
public void pageExport(Map<String,Object> map, HttpServletResponse response){int pageSize = 10000;int pageNum = 1;map.put("pageSize",String.valueOf(pageSize));map.put("pageNum",String.valueOf(pageNum));PageInfo<SysUser> page = page(map);long total = page.getTotal();pageNum = (int) (total % pageSize == 0 ? total / pageSize : total / pageSize + 1);List<SysUser> dataList = new ArrayList<>();dataList.addAll(page.getList());for (int i = 2; i <= pageNum; i++) {map.put("pageNum",String.valueOf(i));List<SysUser> list = page(map).getList();dataList.addAll(list);}ExcelUtil.exportBigExcel(dataList,null,"Sheet1",SysUser.class,"列表导出",response);
}
/*** excel 导出大数据* @param list           数据* @param title          标题* @param sheetName      sheet名称* @param pojoClass      pojo类型* @param fileName       文件名称*/
public static void exportBigExcel(List<?> list, String title, String sheetName, Class<?> pojoClass, String fileName, HttpServletResponse response){ExportParams params = new ExportParams(title,sheetName, ExcelType.XSSF);params.setTitleHeight((short) 12);params.setStyle(ExcelStyleUtil.class);IWriter<Workbook> writer = ExcelExportUtil.exportBigExcel(params, pojoClass);writer.write(list);SXSSFWorkbook workbook = (SXSSFWorkbook) writer.get();ExcelUtil.downLoadExcel(fileName,response,workbook);writer.close();workbook.dispose();
}

最后我选择的是用第二种方式SXSSFWorkbook导出。

这篇关于easypoi大量数据导出,解决oom的问题,分多个sheet导出的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1092789

相关文章

IDEA和GIT关于文件中LF和CRLF问题及解决

《IDEA和GIT关于文件中LF和CRLF问题及解决》文章总结:因IDEA默认使用CRLF换行符导致Shell脚本在Linux运行报错,需在编辑器和Git中统一为LF,通过调整Git的core.aut... 目录问题描述问题思考解决过程总结问题描述项目软件安装shell脚本上git仓库管理,但拉取后,上l

Linux下利用select实现串口数据读取过程

《Linux下利用select实现串口数据读取过程》文章介绍Linux中使用select、poll或epoll实现串口数据读取,通过I/O多路复用机制在数据到达时触发读取,避免持续轮询,示例代码展示设... 目录示例代码(使用select实现)代码解释总结在 linux 系统里,我们可以借助 select、

解决docker目录内存不足扩容处理方案

《解决docker目录内存不足扩容处理方案》文章介绍了Docker存储目录迁移方法:因系统盘空间不足,需将Docker数据迁移到更大磁盘(如/home/docker),通过修改daemon.json配... 目录1、查看服务器所有磁盘的使用情况2、查看docker镜像和容器存储目录的空间大小3、停止dock

idea npm install很慢问题及解决(nodejs)

《ideanpminstall很慢问题及解决(nodejs)》npm安装速度慢可通过配置国内镜像源(如淘宝)、清理缓存及切换工具解决,建议设置全局镜像(npmconfigsetregistryht... 目录idea npm install很慢(nodejs)配置国内镜像源清理缓存总结idea npm in

pycharm跑python项目易出错的问题总结

《pycharm跑python项目易出错的问题总结》:本文主要介绍pycharm跑python项目易出错问题的相关资料,当你在PyCharm中运行Python程序时遇到报错,可以按照以下步骤进行排... 1. 一定不要在pycharm终端里面创建环境安装别人的项目子模块等,有可能出现的问题就是你不报错都安装

idea突然报错Malformed \uxxxx encoding问题及解决

《idea突然报错Malformeduxxxxencoding问题及解决》Maven项目在切换Git分支时报错,提示project元素为描述符根元素,解决方法:删除Maven仓库中的resolv... 目www.chinasem.cn录问题解决方式总结问题idea 上的 maven China编程项目突然报错,是

在Ubuntu上打不开GitHub的完整解决方法

《在Ubuntu上打不开GitHub的完整解决方法》当你满心欢喜打开Ubuntu准备推送代码时,突然发现终端里的gitpush卡成狗,浏览器里的GitHub页面直接变成Whoathere!警告页面... 目录一、那些年我们遇到的"红色惊叹号"二、三大症状快速诊断症状1:浏览器直接无法访问症状2:终端操作异常

使用EasyPoi快速导出Word文档功能的实现步骤

《使用EasyPoi快速导出Word文档功能的实现步骤》EasyPoi是一个基于ApachePOI的开源Java工具库,旨在简化Excel和Word文档的操作,本文将详细介绍如何使用EasyPoi快速... 目录一、准备工作1、引入依赖二、准备好一个word模版文件三、编写导出方法的工具类四、在Export

mybatis直接执行完整sql及踩坑解决

《mybatis直接执行完整sql及踩坑解决》MyBatis可通过select标签执行动态SQL,DQL用ListLinkedHashMap接收结果,DML用int处理,注意防御SQL注入,优先使用#... 目录myBATiFBNZQs直接执行完整sql及踩坑select语句采用count、insert、u

Python爬虫HTTPS使用requests,httpx,aiohttp实战中的证书异步等问题

《Python爬虫HTTPS使用requests,httpx,aiohttp实战中的证书异步等问题》在爬虫工程里,“HTTPS”是绕不开的话题,HTTPS为传输加密提供保护,同时也给爬虫带来证书校验、... 目录一、核心问题与优先级检查(先问三件事)二、基础示例:requests 与证书处理三、高并发选型: