HBase中的RIT机制(Region in Transcation)

2023-12-01 22:38

本文主要是介绍HBase中的RIT机制(Region in Transcation),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

每天到公司第一件事,就是检查测试环境和线上环境的几个hbase集群运行状态。由于测试环境用的几台机器都是虚拟机,因此不可避免的很容易出现regionserver宕机的情况。每次对于宕机的regionserver重启后的一段时间内,部门里的其他一些需要调用hbase的开发人员就开始抱怨,hbase 客户端连接错误 超时等等各种抱怨,其实也是因为regionserver 启动后,本身会进行一次 RIT操作,这时候 client 服务会暂时关闭掉,这里稍微解释下RIT机制,以便我们更好的进行hbase集群的维护工作。

RIT 的全称是region in transcation. 每次hbase master 对region 的一个open 或一个close 操作都会想Master 的RIT中插入一条记录,因为master 对region 的操作要保持原子性,region 的 open 和 close 是通过Hmaster 和 region server 协助来完成的. 所以为了满足这些操作的协调,回滚,和一致性.Hmaster 采用了 RIT 机制并结合Zookeeper 中Node的状态来保证操作的安全和一致性.

   为了弄清楚RIT的状态机制, 我们先来了解下下面的2个enum. 第一个是 RegionState的状态, 它的作用是用于记录Hmaster在操作region时region 所处的状态.

[java]  view plain copy
  1. /** 
  2.  * State of a Region while undergoing transitions. 
  3.  */  
  4. public static class RegionState implements Writable {  
  5.   private HRegionInfo region;  
  6.   
  7.   public enum State {  
  8.     OFFLINE,        // region is in an offline state  
  9.     PENDING_OPEN,   // sent rpc to server to open but has not begun  
  10.     OPENING,        // server has begun to open but not yet done  
  11.     OPEN,           // server opened region and updated meta  
  12.     PENDING_CLOSE,  // sent rpc to server to close but has not begun  
  13.     CLOSING,        // server has begun to close but not yet done  
  14.     CLOSED          // server closed region and updated meta  
  15.   }  
  16.   
  17.   private State state;  
  18.   private long stamp;  
第二个 enum 是 Hbase Event Handler types. 此处我们着重关注下面5中状态.这5种状态是在open/close region时设置的.可以用于region server 和 hmaster 的通讯和状态记录,保证hmaster可以及时了解region serve 的动作是否完成并在失败时可以回滚.

[java]  view plain copy
  1. RS_ZK_REGION_CLOSING, RS_ZK_REGION_CLOSED ,RS_ZK_REGION_OPENING ,RS_ZK_REGION_OPENED ,M_ZK_REGION_OFFLINE     

/**

[java]  view plain copy
  1.  * List of all HBase event handler types.  Event types are named by a  
  2.  * convention: event type names specify the component from which the event  
  3.  * originated and then where its destined -- e.g. RS2ZK_ prefix means the  
  4.  * event came from a regionserver destined for zookeeper -- and then what  
  5.  * the even is; e.g. REGION_OPENING.  
  6.  *   
  7.  * <p>We give the enums indices so we can add types later and keep them  
  8.  * grouped together rather than have to add them always to the end as we  
  9.  * would have to if we used raw enum ordinals.  
  10.  */  
  11. public enum EventType {  
  12.   // Messages originating from RS (NOTE: there is NO direct communication from  
  13.   // RS to Master). These are a result of RS updates into ZK.  
  14.   RS_ZK_REGION_CLOSING      (1),   // RS is in process of closing a region  
  15.   RS_ZK_REGION_CLOSED       (2),   // RS has finished closing a region  
  16.   RS_ZK_REGION_OPENING      (3),   // RS is in process of opening a region  
  17.   RS_ZK_REGION_OPENED       (4),   // RS has finished opening a region  
  18.   
  19.   // Messages originating from Master to RS  
  20.   M_RS_OPEN_REGION          (20),  // Master asking RS to open a region  
  21.   M_RS_OPEN_ROOT            (21),  // Master asking RS to open root  
  22.   M_RS_OPEN_META            (22),  // Master asking RS to open meta  
  23.   M_RS_CLOSE_REGION         (23),  // Master asking RS to close a region  
  24.   M_RS_CLOSE_ROOT           (24),  // Master asking RS to close root  
  25.   M_RS_CLOSE_META           (25),  // Master asking RS to close meta  
  26.   
  27.   // Messages originating from Client to Master  
  28.   C_M_DELETE_TABLE          (40),   // Client asking Master to delete a table  
  29.   C_M_DISABLE_TABLE         (41),   // Client asking Master to disable a table  
  30.   C_M_ENABLE_TABLE          (42),   // Client asking Master to enable a table  
  31.   C_M_MODIFY_TABLE          (43),   // Client asking Master to modify a table  
  32.   C_M_ADD_FAMILY            (44),   // Client asking Master to add family to table  
  33.   C_M_DELETE_FAMILY         (45),   // Client asking Master to delete family of table  
  34.   C_M_MODIFY_FAMILY         (46),   // Client asking Master to modify family of table  
  35.   
  36.   // Updates from master to ZK. This is done by the master and there is  
  37.   // nothing to process by either Master or RS  
  38.   M_ZK_REGION_OFFLINE       (50),  // Master adds this region as offline in ZK  
  39.   
  40.   // Master controlled events to be executed on the master  
  41.   M_SERVER_SHUTDOWN         (70),  // Master is processing shutdown of a RS  
  42.   M_META_SERVER_SHUTDOWN    (72);  // Master is processing shutdown of RS hosting a meta region (-ROOT- or .META.).  
  43.   
  44.   /** 
  45.    * Constructor 
  46.    */  
  47.   EventType(int value) {}  
  48. }  


    Hmaster中的AssignmentManager是主要来管理region 上线下线操作的。我们可以暂时理解为Assign就是将region 上线,Unassign就是将region下线。

    Assign region 时会先将regionstate 置为OFFLINE,等getregionplan结束后取得了region on line 的server 。 后将其置为PENDING_OPEN并将reionstatus加入到RIT之中.随后调用RPC让regionserver 中OpenRegionHandler来在region server端处理open region的动作,其中包括将zk中node的状态置为RS_ZK_REGION_OPENING  然后对hregion 进行初始话,最后将zk中 node 的状态置为RS_ZK_REGION_OPENED。 后续master端会通过zk 的watch机制发现node的状态发生变化。详见图三中左半部分流程。

同样Unassign region 时会先将regionstate 置为PENDING_CLOSE状态并将reionstatus加入到RIT之中,在完成一系列检查之后会调用RPC让regionserver 中CloseRegionHandler来在region server端处理open region的动作,其中包括将zk中node的状态置为RS_ZK_REGION_CLOSEING  然后对hregion 进行CLOSE,最后将zk中 node 的状态置为RS_ZK_REGION_CLOSEED。 后续master端会通过zk 的watch机制发现node的状态发生变化。详见图三中左半部分流程。



在图三所示中是hmaster在对RIT的处理。如果是第一次启动,会监视ZK的变化,发现ZK变化后根据ZK中node的状态调用hmaster中的hander(ClosedRegionHandler,OpeneRegionHandler)来处理,如果node 状态为RS_ZK_REGION_CLOSED ,RS_ZK_REGION_OPENED,

表示region server动作已经完成,master 完成相应动作后会其对于的RIT中的regionstate删除。这样就完成了RIT中regionstate的一个生命过程。 同样如果是FAILOVER中做recover的master会对ZK中的node状态进行扫描,然后处理对应的RIT。

RIT中保存的长时间没有处理的regionstate会被chore线程处理掉,重新加入assign和unassign队列之中。



这篇关于HBase中的RIT机制(Region in Transcation)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/442960

相关文章

Spring事务传播机制最佳实践

《Spring事务传播机制最佳实践》Spring的事务传播机制为我们提供了优雅的解决方案,本文将带您深入理解这一机制,掌握不同场景下的最佳实践,感兴趣的朋友一起看看吧... 目录1. 什么是事务传播行为2. Spring支持的七种事务传播行为2.1 REQUIRED(默认)2.2 SUPPORTS2

MySQL中的锁机制详解之全局锁,表级锁,行级锁

《MySQL中的锁机制详解之全局锁,表级锁,行级锁》MySQL锁机制通过全局、表级、行级锁控制并发,保障数据一致性与隔离性,全局锁适用于全库备份,表级锁适合读多写少场景,行级锁(InnoDB)实现高并... 目录一、锁机制基础:从并发问题到锁分类1.1 并发访问的三大问题1.2 锁的核心作用1.3 锁粒度分

Redis的持久化之RDB和AOF机制详解

《Redis的持久化之RDB和AOF机制详解》:本文主要介绍Redis的持久化之RDB和AOF机制,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录概述RDB(Redis Database)核心原理触发方式手动触发自动触发AOF(Append-Only File)核

PostgreSQL中MVCC 机制的实现

《PostgreSQL中MVCC机制的实现》本文主要介绍了PostgreSQL中MVCC机制的实现,通过多版本数据存储、快照隔离和事务ID管理实现高并发读写,具有一定的参考价值,感兴趣的可以了解一下... 目录一 MVCC 基本原理python1.1 MVCC 核心概念1.2 与传统锁机制对比二 Postg

Maven 配置中的 <mirror>绕过 HTTP 阻断机制的方法

《Maven配置中的<mirror>绕过HTTP阻断机制的方法》:本文主要介绍Maven配置中的<mirror>绕过HTTP阻断机制的方法,本文给大家分享问题原因及解决方案,感兴趣的朋友一... 目录一、问题场景:升级 Maven 后构建失败二、解决方案:通过 <mirror> 配置覆盖默认行为1. 配置示

Redis过期删除机制与内存淘汰策略的解析指南

《Redis过期删除机制与内存淘汰策略的解析指南》在使用Redis构建缓存系统时,很多开发者只设置了EXPIRE但却忽略了背后Redis的过期删除机制与内存淘汰策略,下面小编就来和大家详细介绍一下... 目录1、简述2、Redis http://www.chinasem.cn的过期删除策略(Key Expir

Go语言中Recover机制的使用

《Go语言中Recover机制的使用》Go语言的recover机制通过defer函数捕获panic,实现异常恢复与程序稳定性,具有一定的参考价值,感兴趣的可以了解一下... 目录引言Recover 的基本概念基本代码示例简单的 Recover 示例嵌套函数中的 Recover项目场景中的应用Web 服务器中

Jvm sandbox mock机制的实践过程

《Jvmsandboxmock机制的实践过程》:本文主要介绍Jvmsandboxmock机制的实践过程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、背景二、定义一个损坏的钟1、 Springboot工程中创建一个Clock类2、 添加一个Controller

Dubbo之SPI机制的实现原理和优势分析

《Dubbo之SPI机制的实现原理和优势分析》:本文主要介绍Dubbo之SPI机制的实现原理和优势,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录Dubbo中SPI机制的实现原理和优势JDK 中的 SPI 机制解析Dubbo 中的 SPI 机制解析总结Dubbo中

Java 的 Condition 接口与等待通知机制详解

《Java的Condition接口与等待通知机制详解》在Java并发编程里,实现线程间的协作与同步是极为关键的任务,本文将深入探究Condition接口及其背后的等待通知机制,感兴趣的朋友一起看... 目录一、引言二、Condition 接口概述2.1 基本概念2.2 与 Object 类等待通知方法的区别