HBase中的RIT机制(Region in Transcation)

2023-12-01 22:38

本文主要是介绍HBase中的RIT机制(Region in Transcation),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

每天到公司第一件事,就是检查测试环境和线上环境的几个hbase集群运行状态。由于测试环境用的几台机器都是虚拟机,因此不可避免的很容易出现regionserver宕机的情况。每次对于宕机的regionserver重启后的一段时间内,部门里的其他一些需要调用hbase的开发人员就开始抱怨,hbase 客户端连接错误 超时等等各种抱怨,其实也是因为regionserver 启动后,本身会进行一次 RIT操作,这时候 client 服务会暂时关闭掉,这里稍微解释下RIT机制,以便我们更好的进行hbase集群的维护工作。

RIT 的全称是region in transcation. 每次hbase master 对region 的一个open 或一个close 操作都会想Master 的RIT中插入一条记录,因为master 对region 的操作要保持原子性,region 的 open 和 close 是通过Hmaster 和 region server 协助来完成的. 所以为了满足这些操作的协调,回滚,和一致性.Hmaster 采用了 RIT 机制并结合Zookeeper 中Node的状态来保证操作的安全和一致性.

   为了弄清楚RIT的状态机制, 我们先来了解下下面的2个enum. 第一个是 RegionState的状态, 它的作用是用于记录Hmaster在操作region时region 所处的状态.

[java]  view plain copy
  1. /** 
  2.  * State of a Region while undergoing transitions. 
  3.  */  
  4. public static class RegionState implements Writable {  
  5.   private HRegionInfo region;  
  6.   
  7.   public enum State {  
  8.     OFFLINE,        // region is in an offline state  
  9.     PENDING_OPEN,   // sent rpc to server to open but has not begun  
  10.     OPENING,        // server has begun to open but not yet done  
  11.     OPEN,           // server opened region and updated meta  
  12.     PENDING_CLOSE,  // sent rpc to server to close but has not begun  
  13.     CLOSING,        // server has begun to close but not yet done  
  14.     CLOSED          // server closed region and updated meta  
  15.   }  
  16.   
  17.   private State state;  
  18.   private long stamp;  
第二个 enum 是 Hbase Event Handler types. 此处我们着重关注下面5中状态.这5种状态是在open/close region时设置的.可以用于region server 和 hmaster 的通讯和状态记录,保证hmaster可以及时了解region serve 的动作是否完成并在失败时可以回滚.

[java]  view plain copy
  1. RS_ZK_REGION_CLOSING, RS_ZK_REGION_CLOSED ,RS_ZK_REGION_OPENING ,RS_ZK_REGION_OPENED ,M_ZK_REGION_OFFLINE     

/**

[java]  view plain copy
  1.  * List of all HBase event handler types.  Event types are named by a  
  2.  * convention: event type names specify the component from which the event  
  3.  * originated and then where its destined -- e.g. RS2ZK_ prefix means the  
  4.  * event came from a regionserver destined for zookeeper -- and then what  
  5.  * the even is; e.g. REGION_OPENING.  
  6.  *   
  7.  * <p>We give the enums indices so we can add types later and keep them  
  8.  * grouped together rather than have to add them always to the end as we  
  9.  * would have to if we used raw enum ordinals.  
  10.  */  
  11. public enum EventType {  
  12.   // Messages originating from RS (NOTE: there is NO direct communication from  
  13.   // RS to Master). These are a result of RS updates into ZK.  
  14.   RS_ZK_REGION_CLOSING      (1),   // RS is in process of closing a region  
  15.   RS_ZK_REGION_CLOSED       (2),   // RS has finished closing a region  
  16.   RS_ZK_REGION_OPENING      (3),   // RS is in process of opening a region  
  17.   RS_ZK_REGION_OPENED       (4),   // RS has finished opening a region  
  18.   
  19.   // Messages originating from Master to RS  
  20.   M_RS_OPEN_REGION          (20),  // Master asking RS to open a region  
  21.   M_RS_OPEN_ROOT            (21),  // Master asking RS to open root  
  22.   M_RS_OPEN_META            (22),  // Master asking RS to open meta  
  23.   M_RS_CLOSE_REGION         (23),  // Master asking RS to close a region  
  24.   M_RS_CLOSE_ROOT           (24),  // Master asking RS to close root  
  25.   M_RS_CLOSE_META           (25),  // Master asking RS to close meta  
  26.   
  27.   // Messages originating from Client to Master  
  28.   C_M_DELETE_TABLE          (40),   // Client asking Master to delete a table  
  29.   C_M_DISABLE_TABLE         (41),   // Client asking Master to disable a table  
  30.   C_M_ENABLE_TABLE          (42),   // Client asking Master to enable a table  
  31.   C_M_MODIFY_TABLE          (43),   // Client asking Master to modify a table  
  32.   C_M_ADD_FAMILY            (44),   // Client asking Master to add family to table  
  33.   C_M_DELETE_FAMILY         (45),   // Client asking Master to delete family of table  
  34.   C_M_MODIFY_FAMILY         (46),   // Client asking Master to modify family of table  
  35.   
  36.   // Updates from master to ZK. This is done by the master and there is  
  37.   // nothing to process by either Master or RS  
  38.   M_ZK_REGION_OFFLINE       (50),  // Master adds this region as offline in ZK  
  39.   
  40.   // Master controlled events to be executed on the master  
  41.   M_SERVER_SHUTDOWN         (70),  // Master is processing shutdown of a RS  
  42.   M_META_SERVER_SHUTDOWN    (72);  // Master is processing shutdown of RS hosting a meta region (-ROOT- or .META.).  
  43.   
  44.   /** 
  45.    * Constructor 
  46.    */  
  47.   EventType(int value) {}  
  48. }  


    Hmaster中的AssignmentManager是主要来管理region 上线下线操作的。我们可以暂时理解为Assign就是将region 上线,Unassign就是将region下线。

    Assign region 时会先将regionstate 置为OFFLINE,等getregionplan结束后取得了region on line 的server 。 后将其置为PENDING_OPEN并将reionstatus加入到RIT之中.随后调用RPC让regionserver 中OpenRegionHandler来在region server端处理open region的动作,其中包括将zk中node的状态置为RS_ZK_REGION_OPENING  然后对hregion 进行初始话,最后将zk中 node 的状态置为RS_ZK_REGION_OPENED。 后续master端会通过zk 的watch机制发现node的状态发生变化。详见图三中左半部分流程。

同样Unassign region 时会先将regionstate 置为PENDING_CLOSE状态并将reionstatus加入到RIT之中,在完成一系列检查之后会调用RPC让regionserver 中CloseRegionHandler来在region server端处理open region的动作,其中包括将zk中node的状态置为RS_ZK_REGION_CLOSEING  然后对hregion 进行CLOSE,最后将zk中 node 的状态置为RS_ZK_REGION_CLOSEED。 后续master端会通过zk 的watch机制发现node的状态发生变化。详见图三中左半部分流程。



在图三所示中是hmaster在对RIT的处理。如果是第一次启动,会监视ZK的变化,发现ZK变化后根据ZK中node的状态调用hmaster中的hander(ClosedRegionHandler,OpeneRegionHandler)来处理,如果node 状态为RS_ZK_REGION_CLOSED ,RS_ZK_REGION_OPENED,

表示region server动作已经完成,master 完成相应动作后会其对于的RIT中的regionstate删除。这样就完成了RIT中regionstate的一个生命过程。 同样如果是FAILOVER中做recover的master会对ZK中的node状态进行扫描,然后处理对应的RIT。

RIT中保存的长时间没有处理的regionstate会被chore线程处理掉,重新加入assign和unassign队列之中。



这篇关于HBase中的RIT机制(Region in Transcation)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/442960

相关文章

基于Redis自动过期的流处理暂停机制

《基于Redis自动过期的流处理暂停机制》基于Redis自动过期的流处理暂停机制是一种高效、可靠且易于实现的解决方案,防止延时过大的数据影响实时处理自动恢复处理,以避免积压的数据影响实时性,下面就来详... 目录核心思路代码实现1. 初始化Redis连接和键前缀2. 接收数据时检查暂停状态3. 检测到延时过

Redis中哨兵机制和集群的区别及说明

《Redis中哨兵机制和集群的区别及说明》Redis哨兵通过主从复制实现高可用,适用于中小规模数据;集群采用分布式分片,支持动态扩展,适合大规模数据,哨兵管理简单但扩展性弱,集群性能更强但架构复杂,根... 目录一、架构设计与节点角色1. 哨兵机制(Sentinel)2. 集群(Cluster)二、数据分片

深入理解go中interface机制

《深入理解go中interface机制》本文主要介绍了深入理解go中interface机制,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学... 目录前言interface使用类型判断总结前言go的interface是一组method的集合,不

C# async await 异步编程实现机制详解

《C#asyncawait异步编程实现机制详解》async/await是C#5.0引入的语法糖,它基于**状态机(StateMachine)**模式实现,将异步方法转换为编译器生成的状态机类,本... 目录一、async/await 异步编程实现机制1.1 核心概念1.2 编译器转换过程1.3 关键组件解析

Redis客户端连接机制的实现方案

《Redis客户端连接机制的实现方案》本文主要介绍了Redis客户端连接机制的实现方案,包括事件驱动模型、非阻塞I/O处理、连接池应用及配置优化,具有一定的参考价值,感兴趣的可以了解一下... 目录1. Redis连接模型概述2. 连接建立过程详解2.1 连php接初始化流程2.2 关键配置参数3. 最大连

Spring Security 单点登录与自动登录机制的实现原理

《SpringSecurity单点登录与自动登录机制的实现原理》本文探讨SpringSecurity实现单点登录(SSO)与自动登录机制,涵盖JWT跨系统认证、RememberMe持久化Token... 目录一、核心概念解析1.1 单点登录(SSO)1.2 自动登录(Remember Me)二、代码分析三、

Go语言并发之通知退出机制的实现

《Go语言并发之通知退出机制的实现》本文主要介绍了Go语言并发之通知退出机制的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧... 目录1、通知退出机制1.1 进程/main函数退出1.2 通过channel退出1.3 通过cont

Spring Boot 中的默认异常处理机制及执行流程

《SpringBoot中的默认异常处理机制及执行流程》SpringBoot内置BasicErrorController,自动处理异常并生成HTML/JSON响应,支持自定义错误路径、配置及扩展,如... 目录Spring Boot 异常处理机制详解默认错误页面功能自动异常转换机制错误属性配置选项默认错误处理

Java中的xxl-job调度器线程池工作机制

《Java中的xxl-job调度器线程池工作机制》xxl-job通过快慢线程池分离短时与长时任务,动态降级超时任务至慢池,结合异步触发和资源隔离机制,提升高频调度的性能与稳定性,支撑高并发场景下的可靠... 目录⚙️ 一、调度器线程池的核心设计 二、线程池的工作流程 三、线程池配置参数与优化 四、总结:线程

Android ClassLoader加载机制详解

《AndroidClassLoader加载机制详解》Android的ClassLoader负责加载.dex文件,基于双亲委派模型,支持热修复和插件化,需注意类冲突、内存泄漏和兼容性问题,本文给大家介... 目录一、ClassLoader概述1.1 类加载的基本概念1.2 android与Java Class