springboot3 连接 oceanbase + logproxy数据同步到redis

2024-06-21 20:12

本文主要是介绍springboot3 连接 oceanbase + logproxy数据同步到redis,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

我这用的是 社区版的 单机, rocky liunx 安装oceanbase

注意事项:

logproxy 是 CDC 模式 ,   springboot 可以直接订阅

canal 是 binlog模式,   canal 订阅 logproxy, springboot 订阅 canal

logproxy 也可以转  binlog

大数据量跟高频率推荐  binlog

1: oceanbase 下载地址:

OceanBase分布式数据库-海量数据 笔笔算数

2: 安装 obd web 界面安装

 文档地址:

OceanBase分布式数据库-海量数据 笔笔算数

tar -xzf oceanbase-all-in-one-*.tar.gz
cd oceanbase-all-in-one/bin/
./install.sh
source ~/.oceanbase-all-in-one/bin/env.sh
obd web

obd 集群命令
https://www.oceanbase.com/docs/community-obd-cn-10000000001690699

# 查看集群列表
obd cluster list

# 查看集群状态,以部署名为 demo为例
obd cluster display demo

# 停止运行中的集群,以部署名为 demo为例
obd cluster stop demo

# 销毁已部署的集群,以部署名为 demo 为例
obd cluster destroy demo

启动 ob  demo = 名称
obd cluster restart demo

3: 下载 logproxy

   Releases · oceanbase/oblogproxy · GitHub

4: 安装 logproxy

文档地址OceanBase分布式数据库-海量数据 笔笔算数

下载完成后,通过如下命令进行安装:

rpm -i oblogproxy-{version}.{arch}.rpm

项目安装默认为 /usr/local/oblogproxy

5: 配置和启动 logproxy

 注意这里配置的用户, sys下新建租户, 有 且必须具备 sys 租户下 OceanBase 数据库的读权限。就是sys下新建租户, 授权OceanBase  的读权限给这个新建的租户

先配置执行 sys 新建的 用户名密码 

sh run.sh config_sys  sys passwd

cd /usr/local/oblogproxy/

./run.sh start / stop

   

6: 代码实现:

OceanBase分布式数据库-海量数据 笔笔算数

<dependency>
  <groupId>com.oceanbase.logclient</groupId>
  <artifactId>logproxy-client</artifactId>
  <version>1.1.0</version>
</dependency>
 

ObReaderConfig config = new ObReaderConfig();
// 设置OceanBase root server 地址列表,格式为(可以支持多个,用';'分隔):ip1:rpc_port1:sql_port1;ip2:rpc_port2:sql_port2
config.setRsList("xxx.xxx.xxx.1:2882:2881;xxx.xxx.xxx.2:2882:2881");
// 设置用户名和密码(非系统租户)
config.setUsername("r***");  这里可以直接用数据库的租户和密码
config.setPassword("****");
// 设置启动位点(UNIX时间戳,单位s), 0表示从当前时间启动。
config.setStartTimestamp(0L);
// 设置订阅表白名单,格式为:tenant.db.table, '*'表示通配.
config.setTableWhiteList("sys.*.*");  sys是租户,一般会自己新建一个租户存放数据库如 demo.*.*// 指定oblogproxy服务地址,创建实例.
LogProxyClient client = new LogProxyClient("xxx.xxx.xxx.1", 2983, config);
// 添加 RecordListener
client.addListener(new RecordListener() {@Overridepublic void notify(LogMessage message){// 处理消息if(StringUtils.isBlank(message.getTableName())){return;}if(!tableName.contains(message.getTableName())){return;}// 处理消息switch (message.getOpt()) {case INSERT:insertSql(message.getFieldList(), message.getTableName());break;case UPDATE:updateSql(message.getFieldList(), message.getTableName());break;case DELETE:deleteSql(message.getFieldList(), message.getTableName());break;default:break;}}@Overridepublic void onException(LogProxyClientException e) {// 处理错误if (e.needStop()) {// 不可恢复异常,需要停止Clientclient.stop();}}
});// 启动
client.start();
client.join();//新增的SQLprivate void insertSql(List<DataMessage.Record.Field> list, String tableName) {if (CollectionUtils.isEmpty(list)) {return;}list 就是行数据, 可以查看对象看看具体的信息getFieldname() 字段名getValue().toString(CommonConstant.UTF8MB4)  字段值}

7: 程序启动后 可以观察 程序的打印:

 fail  auth  就是 logproxy 的 sh run.sh config_sys sys passwd 这个命令配置的 用户名密码不对

如下表示连接和 订阅成功

logproxy 日志打印:

cd /usr/local/oblogproxy/

tail -f log/logproxy.log 

只要

1: sh run.sh config_sys sys passwd 这里是 sys下新建的租户 用户名和密码正确

2:config.setUsername("r***");  这里可以直接用数据库的租户和密码
config.setPassword("****");

就没问题了

sys 系统租户,

ocp 管理用的

demo 自己新建的, 用来创建数据库 的  , (新建数据库,用户名,密码)

config.setUsername("r***") 就是这个数据库的用户名和密码

这篇关于springboot3 连接 oceanbase + logproxy数据同步到redis的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1082221

相关文章

一文教你Python如何快速精准抓取网页数据

《一文教你Python如何快速精准抓取网页数据》这篇文章主要为大家详细介绍了如何利用Python实现快速精准抓取网页数据,文中的示例代码简洁易懂,具有一定的借鉴价值,有需要的小伙伴可以了解下... 目录1. 准备工作2. 基础爬虫实现3. 高级功能扩展3.1 抓取文章详情3.2 保存数据到文件4. 完整示例

MySQL 多表连接操作方法(INNER JOIN、LEFT JOIN、RIGHT JOIN、FULL OUTER JOIN)

《MySQL多表连接操作方法(INNERJOIN、LEFTJOIN、RIGHTJOIN、FULLOUTERJOIN)》多表连接是一种将两个或多个表中的数据组合在一起的SQL操作,通过连接,... 目录一、 什么是多表连接?二、 mysql 支持的连接类型三、 多表连接的语法四、实战示例 数据准备五、连接的性

MySQL中的分组和多表连接详解

《MySQL中的分组和多表连接详解》:本文主要介绍MySQL中的分组和多表连接的相关操作,本文通过实例代码给大家介绍的非常详细,感兴趣的朋友一起看看吧... 目录mysql中的分组和多表连接一、MySQL的分组(group javascriptby )二、多表连接(表连接会产生大量的数据垃圾)MySQL中的

使用Java将各种数据写入Excel表格的操作示例

《使用Java将各种数据写入Excel表格的操作示例》在数据处理与管理领域,Excel凭借其强大的功能和广泛的应用,成为了数据存储与展示的重要工具,在Java开发过程中,常常需要将不同类型的数据,本文... 目录前言安装免费Java库1. 写入文本、或数值到 Excel单元格2. 写入数组到 Excel表格

redis中使用lua脚本的原理与基本使用详解

《redis中使用lua脚本的原理与基本使用详解》在Redis中使用Lua脚本可以实现原子性操作、减少网络开销以及提高执行效率,下面小编就来和大家详细介绍一下在redis中使用lua脚本的原理... 目录Redis 执行 Lua 脚本的原理基本使用方法使用EVAL命令执行 Lua 脚本使用EVALSHA命令

python处理带有时区的日期和时间数据

《python处理带有时区的日期和时间数据》这篇文章主要为大家详细介绍了如何在Python中使用pytz库处理时区信息,包括获取当前UTC时间,转换为特定时区等,有需要的小伙伴可以参考一下... 目录时区基本信息python datetime使用timezonepandas处理时区数据知识延展时区基本信息

Qt实现网络数据解析的方法总结

《Qt实现网络数据解析的方法总结》在Qt中解析网络数据通常涉及接收原始字节流,并将其转换为有意义的应用层数据,这篇文章为大家介绍了详细步骤和示例,感兴趣的小伙伴可以了解下... 目录1. 网络数据接收2. 缓冲区管理(处理粘包/拆包)3. 常见数据格式解析3.1 jsON解析3.2 XML解析3.3 自定义

SpringMVC 通过ajax 前后端数据交互的实现方法

《SpringMVC通过ajax前后端数据交互的实现方法》:本文主要介绍SpringMVC通过ajax前后端数据交互的实现方法,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价... 在前端的开发过程中,经常在html页面通过AJAX进行前后端数据的交互,SpringMVC的controll

Redis 热 key 和大 key 问题小结

《Redis热key和大key问题小结》:本文主要介绍Redis热key和大key问题小结,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录一、什么是 Redis 热 key?热 key(Hot Key)定义: 热 key 常见表现:热 key 的风险:二、

C#使用StackExchange.Redis实现分布式锁的两种方式介绍

《C#使用StackExchange.Redis实现分布式锁的两种方式介绍》分布式锁在集群的架构中发挥着重要的作用,:本文主要介绍C#使用StackExchange.Redis实现分布式锁的... 目录自定义分布式锁获取锁释放锁自动续期StackExchange.Redis分布式锁获取锁释放锁自动续期分布式