Hbase错误解析: Call queue is full on /0.0.0.0:60020, too many items queued ?

2024-06-02 16:58

本文主要是介绍Hbase错误解析: Call queue is full on /0.0.0.0:60020, too many items queued ?,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

完整错误日志如下:

2020-02-15 09:21:19,659 INFO  org.apache.hadoop.hbase.client.AsyncProcess                   - , tableName=bd_push_device
2020-02-15 09:21:39,795 INFO  org.apache.hadoop.hbase.client.AsyncProcess                   - #21692403, table=bd_push_device, attempt=28/35 failed=2ops, last exception: org.apache.hadoop.hbase.ipc.RemoteWithExtrasException(org.apache.hadoop.hbase.CallQueueTooBigException): Call queue is full on /0.0.0.0:60020, too many items queued ? on lvzhuweng,60020,1581302282313, tracking started null, retrying after=20093ms, replay=2ops
2020-02-15 09:21:39,801 INFO  org.apache.hadoop.hbase.client.AsyncProcess                   - , tableName=bd_push_device
2020-02-15 09:21:59,891 INFO  org.apache.hadoop.hbase.client.AsyncProcess                   - #21692403, table=bd_push_device, attempt=29/35 failed=2ops, last exception: org.apache.hadoop.hbase.ipc.RemoteWithExtrasException(org.apache.hadoop.hbase.CallQueueTooBigException): Call queue is full on /0.0.0.0:60020, too many items queued ? on lvzhuweng,60020,1581302282313, tracking started null, retrying after=20007ms, replay=2ops
2020-02-15 09:21:59,892 INFO  org.apache.hadoop.hbase.client.AsyncProcess                   - , tableName=bd_push_device
2020-02-15 09:22:19,900 INFO  org.apache.hadoop.hbase.client.AsyncProcess                   - #21692403, table=bd_push_device, attempt=30/35 failed=2ops, last exception: org.apache.hadoop.hbase.ipc.RemoteWithExtrasException(org.apache.hadoop.hbase.CallQueueTooBigException): Call queue is full on /0.0.0.0:60020, too many items queued ? on lvzhuweng,60020,1581302282313, tracking started null, retrying after=20106ms, replay=2ops
2020-02-15 09:22:19,902 INFO  org.apache.hadoop.hbase.client.AsyncProcess                   - , tableName=bd_push_device
2020-02-15 09:22:40,008 INFO  org.apache.hadoop.hbase.client.AsyncProcess                   - #21692403, table=bd_push_device, attempt=31/35 failed=2ops, last exception: org.apache.hadoop.hbase.ipc.RemoteWithExtrasException(org.apache.hadoop.hbase.CallQueueTooBigException): Call queue is full on /0.0.0.0:60020, too many items queued ? on lvzhuweng,60020,1581302282313, tracking started null, retrying after=20144ms, replay=2ops

原因:

根据异常日志推测是消费队列(默认长度为10倍的Handler数)打满导致,查看源码ServerRpcConnection类处理请求processRequest()方法:
/**

  • @param buf
  • Has the request header and the request param and optionally
  • encoded data buffer all in this one array.
  • @throws IOException
  • @throws InterruptedException
    */

protected void processRequest(ByteBuff buf) throws IOException,

  InterruptedException {
...if (!this.rpcServer.scheduler.dispatch(new CallRunner(this.rpcServer, call))) {this.rpcServer.callQueueSizeInBytes.add(-1 * call.getSize());this.rpcServer.metrics.exception(RpcServer.CALL_QUEUE_TOO_BIG_EXCEPTION);call.setResponse(null, null, RpcServer.CALL_QUEUE_TOO_BIG_EXCEPTION,"Call queue is full on " + this.rpcServer.server.getServerName() +", too many items queued ?");call.sendResponseIfReady();
}

}
得知Server端通过executeRpcCall()方法执行RPC远程调用,CallRunner消费次数超过"hbase.ipc.server.max.callqueue.length"配置值就会引起"too many items queued"异常:
protected boolean executeRpcCall(final ThreadPoolExecutor executor, final AtomicInteger queueSize,

  final CallRunner task) {
// Executors provide no offer, so make our own.
int queued = queueSize.getAndIncrement();
if (maxQueueLength > 0 && queued >= maxQueueLength) {queueSize.decrementAndGet();return false;
}executor.execute(new FifoCallRunner(task){@Overridepublic void run() {task.setStatus(RpcServer.getStatus());task.run();queueSize.decrementAndGet();}
});return true;

}
public FifoRpcScheduler(Configuration conf, int handlerCount) {

this.handlerCount = handlerCount;
this.maxQueueLength = conf.getInt(RpcScheduler.IPC_SERVER_MAX_CALLQUEUE_LENGTH,handlerCount * RpcServer.DEFAULT_MAX_CALLQUEUE_LENGTH_PER_HANDLER);

}

public static final String IPC_SERVER_MAX_CALLQUEUE_LENGTH =

  "hbase.ipc.server.max.callqueue.length";

9

 

 

 

解决方法:

队列 满了, 可以设置大一些。

 

 

 

 

 

 


 

这篇关于Hbase错误解析: Call queue is full on /0.0.0.0:60020, too many items queued ?的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1024551

相关文章

全面解析Golang 中的 Gorilla CORS 中间件正确用法

《全面解析Golang中的GorillaCORS中间件正确用法》Golang中使用gorilla/mux路由器配合rs/cors中间件库可以优雅地解决这个问题,然而,很多人刚开始使用时会遇到配... 目录如何让 golang 中的 Gorilla CORS 中间件正确工作一、基础依赖二、错误用法(很多人一开

Mysql中设计数据表的过程解析

《Mysql中设计数据表的过程解析》数据库约束通过NOTNULL、UNIQUE、DEFAULT、主键和外键等规则保障数据完整性,自动校验数据,减少人工错误,提升数据一致性和业务逻辑严谨性,本文介绍My... 目录1.引言2.NOT NULL——制定某列不可以存储NULL值2.UNIQUE——保证某一列的每一

深度解析Nginx日志分析与499状态码问题解决

《深度解析Nginx日志分析与499状态码问题解决》在Web服务器运维和性能优化过程中,Nginx日志是排查问题的重要依据,本文将围绕Nginx日志分析、499状态码的成因、排查方法及解决方案展开讨论... 目录前言1. Nginx日志基础1.1 Nginx日志存放位置1.2 Nginx日志格式2. 499

MySQL CTE (Common Table Expressions)示例全解析

《MySQLCTE(CommonTableExpressions)示例全解析》MySQL8.0引入CTE,支持递归查询,可创建临时命名结果集,提升复杂查询的可读性与维护性,适用于层次结构数据处... 目录基本语法CTE 主要特点非递归 CTE简单 CTE 示例多 CTE 示例递归 CTE基本递归 CTE 结

Spring Boot 3.x 中 WebClient 示例详解析

《SpringBoot3.x中WebClient示例详解析》SpringBoot3.x中WebClient是响应式HTTP客户端,替代RestTemplate,支持异步非阻塞请求,涵盖GET... 目录Spring Boot 3.x 中 WebClient 全面详解及示例1. WebClient 简介2.

在MySQL中实现冷热数据分离的方法及使用场景底层原理解析

《在MySQL中实现冷热数据分离的方法及使用场景底层原理解析》MySQL冷热数据分离通过分表/分区策略、数据归档和索引优化,将频繁访问的热数据与冷数据分开存储,提升查询效率并降低存储成本,适用于高并发... 目录实现冷热数据分离1. 分表策略2. 使用分区表3. 数据归档与迁移在mysql中实现冷热数据分

C#解析JSON数据全攻略指南

《C#解析JSON数据全攻略指南》这篇文章主要为大家详细介绍了使用C#解析JSON数据全攻略指南,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录一、为什么jsON是C#开发必修课?二、四步搞定网络JSON数据1. 获取数据 - HttpClient最佳实践2. 动态解析 - 快速

Spring Boot3.0新特性全面解析与应用实战

《SpringBoot3.0新特性全面解析与应用实战》SpringBoot3.0作为Spring生态系统的一个重要里程碑,带来了众多令人兴奋的新特性和改进,本文将深入解析SpringBoot3.0的... 目录核心变化概览Java版本要求提升迁移至Jakarta EE重要新特性详解1. Native Ima

Python错误AttributeError: 'NoneType' object has no attribute问题的彻底解决方法

《Python错误AttributeError:NoneTypeobjecthasnoattribute问题的彻底解决方法》在Python项目开发和调试过程中,经常会碰到这样一个异常信息... 目录问题背景与概述错误解读:AttributeError: 'NoneType' object has no at

spring中的@MapperScan注解属性解析

《spring中的@MapperScan注解属性解析》@MapperScan是Spring集成MyBatis时自动扫描Mapper接口的注解,简化配置并支持多数据源,通过属性控制扫描路径和过滤条件,利... 目录一、核心功能与作用二、注解属性解析三、底层实现原理四、使用场景与最佳实践五、注意事项与常见问题六