Amoeba for MySQL---分布式数据库Proxy解决方案

2024-04-24 22:18

本文主要是介绍Amoeba for MySQL---分布式数据库Proxy解决方案,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Amoeba for MySQL 位于Client、Database Server(s)之间,具有负载均衡、高可用性、sql过滤、可承受高并发、读写分离、Query Route(解析sql query语句,并且根据条件与预先设定的规则,请求到指定的目标数据库。可并发请求多台数据库合并结果)、对客户端透明,能降低数据切分带来的复杂多数据库结构、数据切分规则给应用带来的影响。适用mysql 4.1或者以上版本(mysql 协议版本:10)暂时不支持事务、DDL语句目前只会分配给默认的数据库执行,运行环境至少需要运行 mysql 4.1以上服务, Java 1.5或以上版本。
Amoeba与mysql proxy存在一些区别。在mysql proxy上面如果想要读写分离并且读集群、写集群机器比较多情况下,用mysql proxy 需要自己写一个LUA脚本,目前mysql proxy没有现成的比较好的lua脚本。amoeba只需要进行相关的配置就可以满足需求。


一、Mysql Master/Slave 结构之下的读写分离:
Master: serverM (主库,接收写操作)
slaves:serverA、serverB、serverC(3个辅库,只读操作)

amoeba提供读写分离pool相关配置,可配置serverA、serverB、serverC形成一个虚拟的virtualSlave,该配置提供LB,failover/failbackup功能.
 
<dbServer name="virtualSlave" virtual="true"> 
    <poolConfig> 
        <className>com.meidusa.amoeba.server.MultipleServerPool</className> 
        <!-- 负载均衡参数 1=ROUNDROBIN , 2=WEIGHTBASED --> 
        <property name="loadbalance">1</property> 
                  
        <!-- 参与该pool负载均衡的poolName列表以逗号分割 --> 
        <property name="poolNames">serverA,serverB,serverC</property> 
    </poolConfig> 
</dbServer> 


<dbServer name="virtualSlave" virtual="true">
 <poolConfig>
  <className>com.meidusa.amoeba.server.MultipleServerPool</className>
  <!-- 负载均衡参数 1=ROUNDROBIN , 2=WEIGHTBASED -->
  <property name="loadbalance">1</property>
    
  <!-- 参与该pool负载均衡的poolName列表以逗号分割 -->
  <property name="poolNames">serverA,serverB,serverC</property>
 </poolConfig>
</dbServer>

 

如果不启用数据切分功能,那么只需要配置QueryRouter属性
wirtePool=serverM
readPool=virtualSlave

<queryRouter> 
    <className>com.meidusa.amoeba.mysql.parser.MysqlQueryRouter</className> 
    <property name="LRUMapSize">1500</property> 
    <property name="defaultPool">serverM</property> 
 
    <property name="writePool">serverM</property> 
    <property name="readPool">virtualSlave</property> 
 
    <property name="needParse">true</property> 
</queryRouter> 

 <queryRouter>
  <className>com.meidusa.amoeba.mysql.parser.MysqlQueryRouter</className>
  <property name="LRUMapSize">1500</property>
  <property name="defaultPool">serverM</property>

  <property name="writePool">serverM</property>
  <property name="readPool">virtualSlave</property>

  <property name="needParse">true</property>
 </queryRouter>


client发送过来的update/insert/delete语句被发送到wirtePool,将select语句发送到readPool机器执行。

 

二、数据切分方面:
这方面amoeba显然也很容易,举个数据切分例子:

select * from user_event where user_id='test' and  gmt_create between Sysdate() -1 and Sysdate()

如果根据gmt_create 时间进行数据切分,比如6个月进行切分一次,amoeba提供利用类似sql表达式进行数据切分:

规则1:GMT_CREATE > to_date('2008-01-01','yyyy-mm-dd') and GMT_CREATE < to_date('2008-05-31','yyyy-mm-dd')

规则1对应服务器1

规则2:GMT_CREATE > to_date('2008-06-01','yyyy-mm-dd') and GMT_CREATE < to_date('2008-12-31','yyyy-mm-dd')

规则2对应服务器2
上面的sql的条件 gmt_create 与规则里面的的gmt_create 进行交集判断,如果存在交集则表示符合规则,则会将sql转移到 规则1 的相应的服务器上面执行。

利用amoeba写出这种类似规则很容易,但是要想做到数据切分以后可线性扩容,那么这样的规则需要自己根据业务实际情况进行设置。amoeba可同时将sql并发分发到多台服务器、然后将结果合并再反馈给客户端,而且amoeba内部采用无阻塞模式,工作线程是不会等待的,并发请求多台 database server情况下,客户端等待的时间基本上面是性能最差的那台database server+amoeba内部解析协议时间。


中文文档地址: http://amoeba.sourceforge.net/amoeba.pdf

http://docs.hexnova.com/amoeba/
amoeba 未来发展方向: http://amoeba.sourceforge.net/amoeba-big-picture.pdf

文件下载: http://www.sourceforge.net/projects/amoeba
amoeba 开发者博客: http://amoeba.meidusa.com

这篇关于Amoeba for MySQL---分布式数据库Proxy解决方案的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/932988

相关文章

Linux下MySQL数据库定时备份脚本与Crontab配置教学

《Linux下MySQL数据库定时备份脚本与Crontab配置教学》在生产环境中,数据库是核心资产之一,定期备份数据库可以有效防止意外数据丢失,本文将分享一份MySQL定时备份脚本,并讲解如何通过cr... 目录备份脚本详解脚本功能说明授权与可执行权限使用 Crontab 定时执行编辑 Crontab添加定

如何通过try-catch判断数据库唯一键字段是否重复

《如何通过try-catch判断数据库唯一键字段是否重复》在MyBatis+MySQL中,通过try-catch捕获唯一约束异常可避免重复数据查询,优点是减少数据库交互、提升并发安全,缺点是异常处理开... 目录1、原理2、怎么理解“异常走的是数据库错误路径,开销比普通逻辑分支稍高”?1. 普通逻辑分支 v

MySQL中On duplicate key update的实现示例

《MySQL中Onduplicatekeyupdate的实现示例》ONDUPLICATEKEYUPDATE是一种MySQL的语法,它在插入新数据时,如果遇到唯一键冲突,则会执行更新操作,而不是抛... 目录1/ ON DUPLICATE KEY UPDATE的简介2/ ON DUPLICATE KEY UP

MySQL分库分表的实践示例

《MySQL分库分表的实践示例》MySQL分库分表适用于数据量大或并发压力高的场景,核心技术包括水平/垂直分片和分库,需应对分布式事务、跨库查询等挑战,通过中间件和解决方案实现,最佳实践为合理策略、备... 目录一、分库分表的触发条件1.1 数据量阈值1.2 并发压力二、分库分表的核心技术模块2.1 水平分

Python与MySQL实现数据库实时同步的详细步骤

《Python与MySQL实现数据库实时同步的详细步骤》在日常开发中,数据同步是一项常见的需求,本篇文章将使用Python和MySQL来实现数据库实时同步,我们将围绕数据变更捕获、数据处理和数据写入这... 目录前言摘要概述:数据同步方案1. 基本思路2. mysql Binlog 简介实现步骤与代码示例1

C#文件复制异常:"未能找到文件"的解决方案与预防措施

《C#文件复制异常:未能找到文件的解决方案与预防措施》在C#开发中,文件操作是基础中的基础,但有时最基础的File.Copy()方法也会抛出令人困惑的异常,当targetFilePath设置为D:2... 目录一个看似简单的文件操作问题问题重现与错误分析错误代码示例错误信息根本原因分析全面解决方案1. 确保

C# LiteDB处理时间序列数据的高性能解决方案

《C#LiteDB处理时间序列数据的高性能解决方案》LiteDB作为.NET生态下的轻量级嵌入式NoSQL数据库,一直是时间序列处理的优选方案,本文将为大家大家简单介绍一下LiteDB处理时间序列数... 目录为什么选择LiteDB处理时间序列数据第一章:LiteDB时间序列数据模型设计1.1 核心设计原则

使用shardingsphere实现mysql数据库分片方式

《使用shardingsphere实现mysql数据库分片方式》本文介绍如何使用ShardingSphere-JDBC在SpringBoot中实现MySQL水平分库,涵盖分片策略、路由算法及零侵入配置... 目录一、ShardingSphere 简介1.1 对比1.2 核心概念1.3 Sharding-Sp

MySQL 表空却 ibd 文件过大的问题及解决方法

《MySQL表空却ibd文件过大的问题及解决方法》本文给大家介绍MySQL表空却ibd文件过大的问题及解决方法,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考... 目录一、问题背景:表空却 “吃满” 磁盘的怪事二、问题复现:一步步编程还原异常场景1. 准备测试源表与数据

Mac电脑如何通过 IntelliJ IDEA 远程连接 MySQL

《Mac电脑如何通过IntelliJIDEA远程连接MySQL》本文详解Mac通过IntelliJIDEA远程连接MySQL的步骤,本文通过图文并茂的形式给大家介绍的非常详细,感兴趣的朋友跟... 目录MAC电脑通过 IntelliJ IDEA 远程连接 mysql 的详细教程一、前缀条件确认二、打开 ID