开车!Spring Batch 入门级示例教程!

2023-11-29 11:59

本文主要是介绍开车!Spring Batch 入门级示例教程!,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!


点击左上角蓝字,关注“锅外的大佬”640?wx_fmt=gif

专注分享国外最新技术内容

我将向您展示如何使用Spring Boot创建一个的Spring BatchHello World示例。

(循序渐进)

因此,如果您是Spring Batch的初学者,您一定会喜欢本指南

准备好了吗?

如果您想了解更多关于Spring Batch的信息,请访问Spring Batch教程页面。

1.Spring Batch框架工作原理

在深入研究代码之前,让我们先看看Spring Batch框架。它包含以下主要构建块

640?wx_fmt=png

一个Batch(批处理)过程由一个Job(作业)组成。这个实体封装了整个批处理过程。

一个Job(作业)可以由一个或多个Step(步骤)组成。在大多数情况下,一个步骤将读取数据(通过ItemReader),处理数据(使用ItemProcessor),然后写入数据(通过ItemWriter)。

JobLauncher处理启动一个Job(作业)。

最后,JobRepository存储关于配置和执行的Job(作业)的元数据。

为了演示Spring Batch是如何工作的,让我们构建一个简单的Hello World批处理作业。

在本例中,我们从person.csv文件中读取一个人的姓和名。从这些数据生成一个问候语。然后将此问候语写入greeting .txt文件。

2.示例概述

我们会使用以下工具/框架:

  • Spring Batch 4.1

  • Spring Boot 2.1

  • Maven 3.6

我们的项目目录结构如下:

640?wx_fmt=png

项目目录结构

3. Maven配置

我们使用Maven构建并运行示例。如果还没有,下载并安装Apache Maven。

让我们使用Spring Initializr来生成Maven项目。确保选择Batch作为依赖项。

640?wx_fmt=png

image

单击Generate Project生成并下载Spring Boot项目模板。在项目的根目录中,您将发现一个pom.xml文件,它是Maven项目的XML配置文件。

为了避免必须管理不同Spring依赖项的版本兼容性,我们将从spring-boot-starter-parent 父POM继承默认配置。

生成的项目包含Spring Boo Starters管理着不同的Spring依赖项。

spring-boot-starter-batch导入Spring BootSpring Batch依赖项。

spring-boot-starter-test 包含用于测试Spring引导应用程序的依赖项。它导入了包括JUnit、Hamcrest和Mockito在内的库。

这个也有依赖性spring-batch-test。这个库包含一些帮助类,它们将帮助测试批处理作业。

在plugins部分,您将找到Spring Boot Maven插件:spring-boot-maven- plugin。它帮助我们构建一个单一的、可运行的uber-jar。这是执行和发布代码的一种方便方法。此外,插件允许您通过Maven命令启动示例。

<?xml version="1.0" encoding="UTF-8"?>	
<project xmlns="http://maven.apache.org/POM/4.0.0"	xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"	xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">	<modelVersion>4.0.0</modelVersion>	<groupId>com.codenotfound</groupId>	<artifactId>spring-batch-hello-world</artifactId>	<version>0.0.1-SNAPSHOT</version>	<packaging>jar</packaging>	<name>spring-batch-hello-world</name>	<description>Spring Batch Hello World Example</description>	<url>https://codenotfound.com/spring-batch-example.html</url>	<parent>	<groupId>org.springframework.boot</groupId>	<artifactId>spring-boot-starter-parent</artifactId>	<version>2.1.5.RELEASE</version>	<relativePath /> <!-- lookup parent from repository -->	</parent>	<properties>	<java.version>11</java.version>	</properties>	<dependencies>	<dependency>	<groupId>org.springframework.boot</groupId>	<artifactId>spring-boot-starter-batch</artifactId>	</dependency>	<dependency>	<groupId>org.springframework.boot</groupId>	<artifactId>spring-boot-starter-test</artifactId>	<scope>test</scope>	</dependency>	<dependency>	<groupId>org.springframework.batch</groupId>	<artifactId>spring-batch-test</artifactId>	<scope>test</scope>	</dependency>	</dependencies>	<build>	<plugins>	<plugin>	<groupId>org.springframework.boot</groupId>	<artifactId>spring-boot-maven-plugin</artifactId>	</plugin>	</plugins>	</build>	</project>

4. Spring Boot 配置

我们使用Spring Boot,目的是让一个Spring Batch应用程序可以“直接运行”。首先创建一个SpringBatchApplication类。它包含main()方法,该方法使用Spring BootSpringApplication.run()启动应用程序。

注意@SpringBootApplication是一个方便的注解,它添加了:@Configuration@EnableAutoConfiguration@ComponentScan

有关Spring Boot的更多信息,请查看Spring Boot入门指南。

默认情况下,Spring Batch使用数据库存储已配置的批处理作业上的元数据。

在本例中,我们不直接使用数据库,而是使用基于内存映射的Map,运行Spring Batch

spring-boot-starter-batch starter依赖于spring-boot-starter-jdbc,并将尝试实例化数据源。添加 exclude = {DataSourceAutoConfiguration.class}注解中添加@SpringBootApplication。这可以防止Spring Boot为数据库连接自动配置DataSource

package com.codenotfound;	import org.springframework.boot.SpringApplication;	
import org.springframework.boot.autoconfigure.SpringBootApplication;	
import org.springframework.boot.autoconfigure.jdbc.DataSourceAutoConfiguration;	@SpringBootApplication(exclude = {DataSourceAutoConfiguration.class})	
public class SpringBatchApplication {	public static void main(String[] args) {	SpringApplication.run(SpringBatchApplication.class, args);	}	
}

5. 创建实体模型

在处理数据之前,通常希望将其映射到实体对象。

在我的示例中,输入数据存储在src/test/resources/csv/persons.csv文件中。

文件中的每一行都包含一个逗号分隔的姓和名。

John, Doe	
Jane, Doe

我们将把这个数据映射到Person对象。这是一个包含姓和名的简单POJO

package com.codenotfound.model;	public class Person {	private String firstName;	private String lastName;	public Person() {	// default constructor	}	public String getFirstName() {	return firstName;	}	public void setFirstName(String firstName) {	this.firstName = firstName;	}	public String getLastName() {	return lastName;	}	public void setLastName(String lastName) {	this.lastName = lastName;	}	@Override	public String toString() {	return firstName + " " + lastName;	}	
}

6. 配置 Spring Batch Job

我们首先创建一个BatchConfig类,它将配置Spring Batch。类顶部的@Configuration注解表明Spring可以使用该类作为bean定义的源。

我们添加了@EnableBatchProcessing注解,它支持所有所需Spring Batch特性。它还提供了设置批处理作业的基本配置。

通过添加这个注解会需要很多操作。下面是@EnableBatchProcessing创建的概述:

  • JobRepository (bean名称 "jobRepository")

  • JobLauncher (bean名称 "jobLauncher")

  • JobRegistry (bean名称 "jobRegistry")

  • JobExplorer (bean名称 "jobExplorer")

  • PlatformTransactionManager (bean名称 "transactionManager")

  • JobBuilderFactory (bean名称"jobBuilders"),它可以方便地防止您必须将作业存储库注入到每个Job(作业)中

  • StepBuilderFactory (bean名称 "stepBuilders"),以方便您避免将作业存储库和事务管理器注入到每个Step(步骤)中

为了使Spring Batch使用基于Map的JobRepository,我们需要扩展DefaultBatchConfigurer。重写setDataSource()方法以不设置DataSource。这将导致自动配置使用基于Map的JobRepository

package com.codenotfound.batch;	import javax.sql.DataSource;	
import org.springframework.batch.core.configuration.annotation.DefaultBatchConfigurer;	
import org.springframework.batch.core.configuration.annotation.EnableBatchProcessing;	
import org.springframework.context.annotation.Configuration;	@Configuration	
@EnableBatchProcessing	
public class BatchConfig extends DefaultBatchConfigurer {	@Override	public void setDataSource(DataSource dataSource) {	// initialize will use a Map based JobRepository (instead of database)	}	
}

现在让我们继续配置Hello World Spring Batch 作业。

创建一个HelloWorldJobConfig配置类,并用添加@Configuration注解。

HelloWorldJobConfig Bean中,我们使用JobBuilderFactory来创建作业。我们传递Job(作业)的名称和需要运行的Step(步骤)。

注意helloWorlJob()Bean中,Spring将自动注入 jobBuildersstepBuilders Beans。

HelloWorldStepBean中定义了我们的步骤执行的不同项。我们使用StepBuilderFactory创建步骤。

首先,我们传入步骤的名称。使用chunk(),我们指定每个事务中处理的项的数量。Chunk还指定步骤的输入(Person)和输出(String)类型。然后,我们将ItemReader (reader)ItemProcessor (processor)ItemWriter (writer)添加到步骤中。

我们使用FlatFileItemReader读取person CSV文件。这个类提供了读取和解析CSV文件的基本功能。

有一个FlatFileItemReaderBuilder实现,它允许我们创建一个FlatFileItemReader。我们首先指定读取文件中每一行的结果是Person对象。然后,我们将使用name()方法为FlatFileItemReader添加一个名称,并指定需要读取的资源(在本例中是persons.csv文件)。

为了让FlatFileItemReader处理我们的文件,我们需要指定一些额外的信息。首先,我们定义文件中的数据是带分隔符的(默认为逗号作为分隔符)。

我们还指定了如何将一行中的每个字段映射到Person对象。这是使用names()来完成的,通过将名称与对象上的setter匹配,可以使Spring Batch映射字段。在本文的例子中,一行的第一个字段将使用firstName setter进行映射。为了实现这一点,我们还需要指定targetType,即Person对象。

注意

names(new String[] {"firstName", "lastName"})

PersonItemProcessor处理数据。它将一个Person转换成一个问候String。我们将在下面的一个单独的类中定义它。

一旦数据被处理,我们将把它写入一个文本文件。我们使用FlatFileItemWriter来完成这项任务。

我们使用FlatFileItemWriterBuilder实现来创建一个FlatFileItemWriter。我们为writer添加一个名称,并指定需要将数据写入其中的资源(在本例中是greeting.txt文件)。

FlatFileItemWriter需要知道如何将生成的输出转换成可以写入文件的单个字符串。在本例中,我们的输出已经是一个字符串,我们可以使用PassThroughLineAggregator。这是最基本的实现,它假定对象已经是一个字符串。

package com.codenotfound.batch;	import org.springframework.batch.core.Job;	
import org.springframework.batch.core.Step;	
import org.springframework.batch.core.configuration.annotation.JobBuilderFactory;	
import org.springframework.batch.core.configuration.annotation.StepBuilderFactory;	
import org.springframework.batch.item.file.FlatFileItemReader;	
import org.springframework.batch.item.file.FlatFileItemWriter;	
import org.springframework.batch.item.file.builder.FlatFileItemReaderBuilder;	
import org.springframework.batch.item.file.builder.FlatFileItemWriterBuilder;	
import org.springframework.batch.item.file.transform.PassThroughLineAggregator;	
import org.springframework.context.annotation.Bean;	
import org.springframework.context.annotation.Configuration;	
import org.springframework.core.io.ClassPathResource;	
import org.springframework.core.io.FileSystemResource;	
import com.codenotfound.model.Person;	@Configuration	
public class HelloWorldJobConfig {	@Bean	public Job helloWorlJob(JobBuilderFactory jobBuilders,	StepBuilderFactory stepBuilders) {	return jobBuilders.get("helloWorldJob")	.start(helloWorldStep(stepBuilders)).build();	}	@Bean	public Step helloWorldStep(StepBuilderFactory stepBuilders) {	return stepBuilders.get("helloWorldStep")	.<Person, String>chunk(10).reader(reader())	.processor(processor()).writer(writer()).build();	}	@Bean	public FlatFileItemReader<Person> reader() {	return new FlatFileItemReaderBuilder<Person>()	.name("personItemReader")	.resource(new ClassPathResource("csv/persons.csv"))	.delimited().names(new String[] {"firstName", "lastName"})	.targetType(Person.class).build();	}	@Bean	public PersonItemProcessor processor() {	return new PersonItemProcessor();	}	@Bean	public FlatFileItemWriter<String> writer() {	return new FlatFileItemWriterBuilder<String>()	.name("greetingItemWriter")	.resource(new FileSystemResource(	"target/test-outputs/greetings.txt"))	.lineAggregator(new PassThroughLineAggregator<>()).build();	}	
}

7. 处理数据

在大多数情况下,您将希望在批处理作业期间应用一些数据处理。可以使用ItemProcessor来操作。

在我们的示例中,我们将Person对象转换为一个简单的问候语String

为此,我们创建一个实现ItemProcessor接口的PersonItemProcessor。我们实现了process()方法,它将人名和姓氏添加到字符串中。

调试的过程中,我们记录日志结果。

package com.codenotfound.batch;	import org.slf4j.Logger;	
import org.slf4j.LoggerFactory;	
import org.springframework.batch.item.ItemProcessor;	
import com.codenotfound.model.Person;	public class PersonItemProcessor	implements ItemProcessor<Person, String> {	private static final Logger LOGGER =	LoggerFactory.getLogger(PersonItemProcessor.class);	@Override	public String process(Person person) throws Exception {	String greeting = "Hello " + person.getFirstName() + " "	+ person.getLastName() + "!";	LOGGER.info("converting '{}' into '{}'", person, greeting);	return greeting;	}	
}

8.测试Spring Batch 示例

为了测试本的例子,我们创建了一个基本的单元测试用例。它将运行批处理作业并检查是否成功完成。

我们使用@RunWith@SpringBootTest测试注解告诉JUnit使用Spring的测试支持运行,并使用SpringBoot的支持引导。

Spring Batch附带一个JobLauncherTestUtils实用程序类,用于测试批处理作业。

我们首先创建一个内部BatchTestConfig类,将helloWorld作业添加到JobLauncherTestUtils bean中。然后使用此bean的launchJob()方法运行批处理作业。

如果执行的作业没有任何错误,则ExitCode的值为COMPLETED

package com.codenotfound;	import static org.assertj.core.api.Assertions.assertThat;	
import org.junit.Test;	
import org.junit.runner.RunWith;	
import org.springframework.batch.core.Job;	
import org.springframework.batch.core.JobExecution;	
import org.springframework.batch.core.launch.NoSuchJobException;	
import org.springframework.batch.test.JobLauncherTestUtils;	
import org.springframework.beans.factory.annotation.Autowired;	
import org.springframework.boot.test.context.SpringBootTest;	
import org.springframework.context.annotation.Bean;	
import org.springframework.context.annotation.Configuration;	
import org.springframework.context.annotation.Import;	
import org.springframework.test.context.junit4.SpringRunner;	
import com.codenotfound.batch.job.BatchConfig;	
import com.codenotfound.batch.job.HelloWorldJobConfig;	@RunWith(SpringRunner.class)	
@SpringBootTest(	classes = {SpringBatchApplicationTests.BatchTestConfig.class})	
public class SpringBatchApplicationTests {	@Autowired	private JobLauncherTestUtils jobLauncherTestUtils;	@Test	public void testHelloWorldJob() throws Exception {	JobExecution jobExecution = jobLauncherTestUtils.launchJob();	assertThat(jobExecution.getExitStatus().getExitCode())	.isEqualTo("COMPLETED");	}	@Configuration	@Import({BatchConfig.class, HelloWorldJobConfig.class})	static class BatchTestConfig {	@Autowired	private Job helloWorlJob;	@Bean	JobLauncherTestUtils jobLauncherTestUtils()	throws NoSuchJobException {	JobLauncherTestUtils jobLauncherTestUtils =	new JobLauncherTestUtils();	jobLauncherTestUtils.setJob(helloWorlJob);	return jobLauncherTestUtils;	}	}	
}

要触发上述测试用例,请在项目根文件夹中打开命令提示符,并执行以下Maven命令:

mvn test

结果是构建成功,并在此期间执行批处理作业。

 .   ____          _            __ _ _	
/\\ / ___'_ __ _ _(_)_ __  __ _ \ \ \ \	
( ( )\___ | '_ | '_| | '_ \/ _` | \ \ \ \	
\\/  ___)| |_)| | | | | || (_| |  ) ) ) )	'  |____| .__|_| |_|_| |_\__, | / / / /	
=========|_|==============|___/=/_/_/_/	
:: Spring Boot ::        (v2.1.5.RELEASE)	2019-05-30 19:11:12.784  INFO 14588 --- [           main] c.c.SpringBatchApplicationTests          : Starting SpringBatchApplicationTests on DESKTOP-2RB3C1U with PID 14588 (started by Codenotfound in C:\Users\Codenotfound\repos\spring-batch\spring-batch-hello-world)	
2019-05-30 19:11:12.785  INFO 14588 --- [           main] c.c.SpringBatchApplicationTests          : No active profile set, falling back to default profiles: default	
2019-05-30 19:11:13.305  WARN 14588 --- [           main] o.s.b.c.c.a.DefaultBatchConfigurer       : No datasource was provided...using a Map based JobRepository	
2019-05-30 19:11:13.306  WARN 14588 --- [           main] o.s.b.c.c.a.DefaultBatchConfigurer       : No transaction manager was provided, using a ResourcelessTransactionManager	
2019-05-30 19:11:13.328  INFO 14588 --- [           main] o.s.b.c.l.support.SimpleJobLauncher      : No TaskExecutor has been set, defaulting to synchronous executor.	
2019-05-30 19:11:13.350  INFO 14588 --- [           main] c.c.SpringBatchApplicationTests          : Started SpringBatchApplicationTests in 0.894 seconds (JVM running for 1.777)	
2019-05-30 19:11:13.732  INFO 14588 --- [           main] o.s.b.c.l.support.SimpleJobLauncher      : Job: [SimpleJob: [name=helloWorldJob]] launched with the following parameters: [{random=459672}]	
2019-05-30 19:11:13.759  INFO 14588 --- [           main] o.s.batch.core.job.SimpleStepHandler     : Executing step: [helloWorldStep]	
2019-05-30 19:11:13.812  INFO 14588 --- [           main] c.c.batch.PersonItemProcessor            : converting 'John Doe' into 'Hello John Doe!'	
2019-05-30 19:11:13.822  INFO 14588 --- [           main] c.c.batch.PersonItemProcessor            : converting 'Jane Doe' into 'Hello Jane Doe!'	
2019-05-30 19:11:13.842  INFO 14588 --- [           main] o.s.b.c.l.support.SimpleJobLauncher      : Job: [SimpleJob: [name=helloWorldJob]] completed with the following parameters: [{random=459672}] and the following status: [COMPLETED]	
[INFO] Tests run: 1, Failures: 0, Errors: 0, Skipped: 0, Time elapsed: 1.953 s - in com.codenotfound.SpringBatchApplicationTests	
[INFO]	
[INFO] Results:	
[INFO]	
[INFO] Tests run: 1, Failures: 0, Errors: 0, Skipped: 0	
[INFO]	
[INFO] ------------------------------------------------------------------------	
[INFO] BUILD SUCCESS	
[INFO] ------------------------------------------------------------------------	
[INFO] Total time:  6.852 s	
[INFO] Finished at: 2019-05-30T19:11:14+02:00	
[INFO] ------------------------------------------------------------------------

您可以在target/test-output /greeting .txt文件中找到结果:

Hello John Doe!	
Hello Jane Doe!

如果您想运行上面的代码示例,您可以在这里获得完整的源代码。

在本入门教程中,您学习了如何使用Spring Boot和Maven创建一个简单的Spring Batch示例。

来源:http://www.spring4all.com/article/15113

 

推荐阅读:

如何排查Java内存泄漏?看完我给跪了!

上篇好文:

使用 Spring Boot Actuator 构建 RESTful Web 应用


文章对你是否有帮助呢?

别忘记右上角按钮分享给更多人哦smiley_63.png~


640?wx_fmt=png


点击在看,和我一起帮助更多开发者!

这篇关于开车!Spring Batch 入门级示例教程!的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/432741

相关文章

Spring Boot 实现 IP 限流的原理、实践与利弊解析

《SpringBoot实现IP限流的原理、实践与利弊解析》在SpringBoot中实现IP限流是一种简单而有效的方式来保障系统的稳定性和可用性,本文给大家介绍SpringBoot实现IP限... 目录一、引言二、IP 限流原理2.1 令牌桶算法2.2 漏桶算法三、使用场景3.1 防止恶意攻击3.2 控制资源

Mac系统下卸载JAVA和JDK的步骤

《Mac系统下卸载JAVA和JDK的步骤》JDK是Java语言的软件开发工具包,它提供了开发和运行Java应用程序所需的工具、库和资源,:本文主要介绍Mac系统下卸载JAVA和JDK的相关资料,需... 目录1. 卸载系统自带的 Java 版本检查当前 Java 版本通过命令卸载系统 Java2. 卸载自定

Python如何去除图片干扰代码示例

《Python如何去除图片干扰代码示例》图片降噪是一个广泛应用于图像处理的技术,可以提高图像质量和相关应用的效果,:本文主要介绍Python如何去除图片干扰的相关资料,文中通过代码介绍的非常详细,... 目录一、噪声去除1. 高斯噪声(像素值正态分布扰动)2. 椒盐噪声(随机黑白像素点)3. 复杂噪声(如伪

springboot下载接口限速功能实现

《springboot下载接口限速功能实现》通过Redis统计并发数动态调整每个用户带宽,核心逻辑为每秒读取并发送限定数据量,防止单用户占用过多资源,确保整体下载均衡且高效,本文给大家介绍spring... 目录 一、整体目标 二、涉及的主要类/方法✅ 三、核心流程图解(简化) 四、关键代码详解1️⃣ 设置

Java Spring ApplicationEvent 代码示例解析

《JavaSpringApplicationEvent代码示例解析》本文解析了Spring事件机制,涵盖核心概念(发布-订阅/观察者模式)、代码实现(事件定义、发布、监听)及高级应用(异步处理、... 目录一、Spring 事件机制核心概念1. 事件驱动架构模型2. 核心组件二、代码示例解析1. 事件定义

SpringMVC高效获取JavaBean对象指南

《SpringMVC高效获取JavaBean对象指南》SpringMVC通过数据绑定自动将请求参数映射到JavaBean,支持表单、URL及JSON数据,需用@ModelAttribute、@Requ... 目录Spring MVC 获取 JavaBean 对象指南核心机制:数据绑定实现步骤1. 定义 Ja

python使用库爬取m3u8文件的示例

《python使用库爬取m3u8文件的示例》本文主要介绍了python使用库爬取m3u8文件的示例,可以使用requests、m3u8、ffmpeg等库,实现获取、解析、下载视频片段并合并等步骤,具有... 目录一、准备工作二、获取m3u8文件内容三、解析m3u8文件四、下载视频片段五、合并视频片段六、错误

javax.net.ssl.SSLHandshakeException:异常原因及解决方案

《javax.net.ssl.SSLHandshakeException:异常原因及解决方案》javax.net.ssl.SSLHandshakeException是一个SSL握手异常,通常在建立SS... 目录报错原因在程序中绕过服务器的安全验证注意点最后多说一句报错原因一般出现这种问题是因为目标服务器

HTML5 getUserMedia API网页录音实现指南示例小结

《HTML5getUserMediaAPI网页录音实现指南示例小结》本教程将指导你如何利用这一API,结合WebAudioAPI,实现网页录音功能,从获取音频流到处理和保存录音,整个过程将逐步... 目录1. html5 getUserMedia API简介1.1 API概念与历史1.2 功能与优势1.3

Java实现删除文件中的指定内容

《Java实现删除文件中的指定内容》在日常开发中,经常需要对文本文件进行批量处理,其中,删除文件中指定内容是最常见的需求之一,下面我们就来看看如何使用java实现删除文件中的指定内容吧... 目录1. 项目背景详细介绍2. 项目需求详细介绍2.1 功能需求2.2 非功能需求3. 相关技术详细介绍3.1 Ja