数据异构 Canal-Spring-Boot-Starter的技术实现

2024-05-04 01:08

本文主要是介绍数据异构 Canal-Spring-Boot-Starter的技术实现,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Canal-Spring-Boot-Starter 使用

1、在spring boot 项目配置文件 application.yml内增加以下内容


spring:canal:instances:example:                  # 拉取 example 目标的数据host: 192.168.10.179    # canal 所在机器的ipport: 11111             # canal 默认暴露端口user-name: canal        # canal 用户名password: canal         # canal 密码batch-size: 600         # canal 每次拉取的数据条数retry-count: 5          # 重试次数,如果重试5次后,仍无法连接,则断开cluster-enabled: false  # 是否开启集群zookeeper-address:      # zookeeper 地址(开启集群的情况下生效), 例: 192.168.0.1:2181,192.168.0.2:2181,192.168.0.3:2181acquire-interval: 1000  # 未拉取到消息情况下,获取消息的时间间隔毫秒值subscribe: .*\\..*      # 默认情况下拉取所有库、所有表
prod:example: exampledatabase: books

2、在spring boot 项目中的代码使用实例

import com.alibaba.otter.canal.protocol.CanalEntry;
import com.duxinglangzi.canal.starter.annotation.CanalInsertListener;
import com.duxinglangzi.canal.starter.annotation.CanalListener;
import com.duxinglangzi.canal.starter.annotation.CanalUpdateListener;
import com.duxinglangzi.canal.starter.annotation.EnableCanalListener;
import com.duxinglangzi.canal.starter.mode.CanalMessage;
import org.springframework.stereotype.Service;import java.util.stream.Collectors;/*** @author wuqiong 2022/4/12* @description*/
@EnableCanalListener
@Service
public class CanalListenerTest {/*** 必须在类上 使用 EnableCanalListener 注解才能开启 canal listener** 目前 Listener 方法的参数必须为 com.duxinglangzi.canal.starter.mode.CanalMessage* 程序在启动过程中会做检查*//*** 监控更新操作* 支持动态参数配置,配置项需在 yml 或 properties 进行配置* 目标是 ${prod.example} 的  ${prod.database} 库  users表*/@CanalUpdateListener(destination = "${prod.example}", database = "${prod.database}", table = {"users"})public void listenerExampleBooksUsers(CanalMessage message) {printChange("listenerExampleBooksUsers", message);}/*** 监控更新操作 ,目标是 example的  books库  users表*/@CanalInsertListener(destination = "example", database = "books", table = {"users"})public void listenerExampleBooksUser(CanalMessage message) {printChange("listenerExampleBooksUsers", message);}/*** 监控更新操作 ,目标是 example的  books库  books表*/@CanalUpdateListener(destination = "example", database = "books", table = {"books"})public void listenerExampleBooksBooks(CanalMessage message) {printChange("listenerExampleBooksBooks", message);}/*** 监控更新操作 ,目标是 example的  books库的所有表*/@CanalListener(destination = "example", database = "books", eventType = CanalEntry.EventType.UPDATE)public void listenerExampleBooksAll(CanalMessage message) {printChange("listenerExampleBooksAll", message);}/*** 监控更新操作 ,目标是 example的  所有库的所有表*/@CanalListener(destination = "example", eventType = CanalEntry.EventType.UPDATE)public void listenerExampleAll(CanalMessage message) {printChange("listenerExampleAll", message);}/*** 监控更新、删除、新增操作 ,所有配置的目标下的所有库的所有表*/@CanalListener(eventType = {CanalEntry.EventType.UPDATE, CanalEntry.EventType.INSERT, CanalEntry.EventType.DELETE})public void listenerAllDml(CanalMessage message) {printChange("listenerAllDml", message);}public void printChange(String method, CanalMessage message) {CanalEntry.EventType eventType = message.getEventType();CanalEntry.RowData rowData = message.getRowData();System.out.println(" >>>>>>>>>>>>>[当前数据库: "+message.getDataBaseName()+" ," +"数据库表名: " + message.getTableName() + " , " +"方法: " + method );if (eventType == CanalEntry.EventType.DELETE) {rowData.getBeforeColumnsList().stream().collect(Collectors.toList()).forEach(ele -> {System.out.println("[方法: " + method + " ,  delete 语句 ] --->> 字段名: " + ele.getName() + ", 删除的值为: " + ele.getValue());});}if (eventType == CanalEntry.EventType.INSERT) {rowData.getAfterColumnsList().stream().collect(Collectors.toList()).forEach(ele -> {System.out.println("[方法: " + method + " ,insert 语句 ] --->> 字段名: " + ele.getName() + ", 新增的值为: " + ele.getValue());});}if (eventType == CanalEntry.EventType.UPDATE) {for (int i = 0; i < rowData.getAfterColumnsList().size(); i++) {CanalEntry.Column afterColumn = rowData.getAfterColumnsList().get(i);CanalEntry.Column beforeColumn = rowData.getBeforeColumnsList().get(i);System.out.println("[方法: " + method + " , update 语句 ] -->> 字段名," + afterColumn.getName() +" , 是否修改: " + afterColumn.getUpdated() +" , 修改前的值: " + beforeColumn.getValue() +" , 修改后的值: " + afterColumn.getValue());}}}}

以上展示了在 spring boot 项目中 canal starter 的基本使用

3、源码地址

对于 canal-spring-boot-starter 源代码为楼主自己封装, github地址: https://github.com/duxinglangzi/canal-spring-boot-starter
另附国内 gitee 地址: https://gitee.com/duxinglangzi/canal-spring-boot-starter

如果有需要的同学,可以自行下载源码进行修改和自定义封装

这篇关于数据异构 Canal-Spring-Boot-Starter的技术实现的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/958042

相关文章

使用Java将各种数据写入Excel表格的操作示例

《使用Java将各种数据写入Excel表格的操作示例》在数据处理与管理领域,Excel凭借其强大的功能和广泛的应用,成为了数据存储与展示的重要工具,在Java开发过程中,常常需要将不同类型的数据,本文... 目录前言安装免费Java库1. 写入文本、或数值到 Excel单元格2. 写入数组到 Excel表格

Java并发编程之如何优雅关闭钩子Shutdown Hook

《Java并发编程之如何优雅关闭钩子ShutdownHook》这篇文章主要为大家详细介绍了Java如何实现优雅关闭钩子ShutdownHook,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起... 目录关闭钩子简介关闭钩子应用场景数据库连接实战演示使用关闭钩子的注意事项开源框架中的关闭钩子机制1.

Python中pywin32 常用窗口操作的实现

《Python中pywin32常用窗口操作的实现》本文主要介绍了Python中pywin32常用窗口操作的实现,pywin32主要的作用是供Python开发者快速调用WindowsAPI的一个... 目录获取窗口句柄获取最前端窗口句柄获取指定坐标处的窗口根据窗口的完整标题匹配获取句柄根据窗口的类别匹配获取句

Maven中引入 springboot 相关依赖的方式(最新推荐)

《Maven中引入springboot相关依赖的方式(最新推荐)》:本文主要介绍Maven中引入springboot相关依赖的方式(最新推荐),本文给大家介绍的非常详细,对大家的学习或工作具有... 目录Maven中引入 springboot 相关依赖的方式1. 不使用版本管理(不推荐)2、使用版本管理(推

Java 中的 @SneakyThrows 注解使用方法(简化异常处理的利与弊)

《Java中的@SneakyThrows注解使用方法(简化异常处理的利与弊)》为了简化异常处理,Lombok提供了一个强大的注解@SneakyThrows,本文将详细介绍@SneakyThro... 目录1. @SneakyThrows 简介 1.1 什么是 Lombok?2. @SneakyThrows

在 Spring Boot 中实现异常处理最佳实践

《在SpringBoot中实现异常处理最佳实践》本文介绍如何在SpringBoot中实现异常处理,涵盖核心概念、实现方法、与先前查询的集成、性能分析、常见问题和最佳实践,感兴趣的朋友一起看看吧... 目录一、Spring Boot 异常处理的背景与核心概念1.1 为什么需要异常处理?1.2 Spring B

python处理带有时区的日期和时间数据

《python处理带有时区的日期和时间数据》这篇文章主要为大家详细介绍了如何在Python中使用pytz库处理时区信息,包括获取当前UTC时间,转换为特定时区等,有需要的小伙伴可以参考一下... 目录时区基本信息python datetime使用timezonepandas处理时区数据知识延展时区基本信息

Python位移操作和位运算的实现示例

《Python位移操作和位运算的实现示例》本文主要介绍了Python位移操作和位运算的实现示例,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一... 目录1. 位移操作1.1 左移操作 (<<)1.2 右移操作 (>>)注意事项:2. 位运算2.1

如何在 Spring Boot 中实现 FreeMarker 模板

《如何在SpringBoot中实现FreeMarker模板》FreeMarker是一种功能强大、轻量级的模板引擎,用于在Java应用中生成动态文本输出(如HTML、XML、邮件内容等),本文... 目录什么是 FreeMarker 模板?在 Spring Boot 中实现 FreeMarker 模板1. 环

Qt实现网络数据解析的方法总结

《Qt实现网络数据解析的方法总结》在Qt中解析网络数据通常涉及接收原始字节流,并将其转换为有意义的应用层数据,这篇文章为大家介绍了详细步骤和示例,感兴趣的小伙伴可以了解下... 目录1. 网络数据接收2. 缓冲区管理(处理粘包/拆包)3. 常见数据格式解析3.1 jsON解析3.2 XML解析3.3 自定义