HUE配置Impala队列提交SQL

2024-01-07 21:48

本文主要是介绍HUE配置Impala队列提交SQL,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

目前,我们可以通过HUE连接到impala集群来提交SQL,进行一些数据分析和测试验证工作,非常方便,不用再额外配置beeline环境或者在java代码里面通过jdbc调用。但是,在hue上面提交SQL的时候,默认是会提交到default队列上,而线上集群往往都会根据业务设置相应的队列。因此,default上预留的资源一般不会很多,当需要跑一些比较大的SQL的时候,就需要选择相应业务的队列,否则可能会出现资源不足的问题。本文主要就是介绍了几种,在hue里面配置队列的方式,下面就一起来看一下:

Impala自动识别队列

当集群中配置了与用户名同名的队列,在提交SQL的时候,impala会优先提交到同名的队列上,而不是default上。这种情况下,我们就不需要显示地设置队列了。但是这种情况相对比较少,一般线上使用kerberos认证的时候,往往一个kerberos用户,会对应多个队列,这个时候就需要我们进行手动设置了。

通过SQL指定队列

这种方式主要就是利用了同一个session里面进行队列设置的原理,我们可以在HUE里面同时执行多条SQL来实现队列的设置功能,如下所示:

set request_pool=impala_test;
select 1;

我们只要同时执行上面的两条SQL,就可以将select 1提交到impala_test队列上。关于如何同时在HUE里面执行多条SQL,可以参考:使用HUE执行多条SQL。

但是,在实际使用过程中发现一个问题:如果多个HUE连接,都是使用同一个用户名/密码进行登录。那么,其中一个session如果进行了队列设置,其他的session在之后执行的时候,也会收到影响,会把sql提交到刚刚那个session设置的队列上,这就很有问题。为了进行测试验证,我们分别在两台电脑上用同一个用户登录,分别连接至HUE,然后在一个页面提交了set request_pool=impala_test,而在另外一个页面提交了select 2,先后执行这两条SQL,我们可以在对应的impalad页面上看到,select 2这条SQL的确是被提交到了impala_test这个队列上:

在sessions的页面也可以看到,目前确实是有两个session连接到了impalad:

通过搜索HUE的日志,我们可以发现,一开始当我们执行set操作的时候,发现日志中出现了两条相关的信息:

[17/Jul/2019 11:53:53 +0000] thrift_util DEBUG Thrift call: <class 'ImpalaService.ImpalaHiveServer2Service.Client'>.ExecuteStatement(args=(TExecuteStatementReq(confOverlay={'impala.resultset.cache.size': '50000', 'QUERY_TIMEOUT_S': '10'}, sessionHandle=TSessionHandle(
sessionId=THandleIdentifier(secret=374a10ce97565a27:a9d7cd6720c27ca0, guid=444a85f6b3bb9d61:96522b5892d4b08d)), runAsync=True, statement='set request_pool=impala_test'),), kwargs={})[17/Jul/2019 11:53:53 +0000] thrift_util DEBUG Thrift call: <class 'ImpalaService.ImpalaHiveServer2Service.Client'>.ExecuteStatement(args=(TExecuteStatementReq(confOverlay={'impala.resultset.cache.size': '50000', 'QUERY_TIMEOUT_S': '10'}, sessionHandle=TSessionHandle(
sessionId=THandleIdentifier(secret=9844668962cdce9c:decddf6b573fea83, guid=d64c1fc35fcaab49:1fff06564ec937bf)), runAsync=True, statement='set request_pool=impala_test'),), kwargs={})

也就是说,当我们同一个HUE执行一个set操作的时候,另外的一个session也一起执行了这个SQL,这可能是由于HUE本身的设计导致的,当我们执行select 2的时候,也会有相关的日志:

[17/Jul/2019 11:53:57 +0000] thrift_util DEBUG Thrift call: <class 'ImpalaService.ImpalaHiveServer2Service.Client'>.ExecuteStatement(args=(TExecuteStatementReq(confOverlay={'impala.resultset.cache.size': '50000', 'QUERY_TIMEOUT_S': '10'}, sessionHandle=TSessionHandle(
sessionId=THandleIdentifier(secret=9844668962cdce9c:decddf6b573fea83, guid=d64c1fc35fcaab49:1fff06564ec937bf)), runAsync=True, statement='select 2'),), kwargs={})

通过这个日志可以看到,select 2执行的session(就是guid),跟上面的其中一条日志的session是同一个session。但是这个语句只执行了一次,也就是说,可能只有set属性参数的时候,才会有这种问题。不仅仅是配置队列会有这样的问题,其他的属性set也会有同样的问题。为了避免这种问题,这里就需要另外一种设置队列的方式。

通过配置项指定队列

除了以上两种方式之外,我们还可以通过配置项来指定队列,具体操作方式如下所示,在HUE的impala连接页面点击配置按钮:

然后在弹出的页面填入相应的参数以及参数值,可以配置多个,这里只配置了队列选项:

配置完成之后,我们点击尖按钮,就可以收回配置页面,提交相应的SQL了,此时提交的SQL就会使用刚刚配置的若干属性值。通过这种方式指定队列,我们可以在HUE的日志中查看相应的请求信息,如下所示,这种配置方式跟上面的是截然不同的:

[17/Jul/2019 15:00:25 +0000] thrift_util DEBUG Thrift call: <class 'ImpalaService.ImpalaHiveServer2Service.Client'>.ExecuteStatement(args=(TExecuteStatementReq(confOverlay={u'request_pool': u'impala_test', 'impala.resultset.cache.size': '50000', 'QUERY_TIMEOUT_S': '10
'}, sessionHandle=TSessionHandle(sessionId=THandleIdentifier(secret=874f0be612344f6b:d03880523b05deae, guid=c2413b82dd331239:e0343e14325f1282)), runAsync=True, statement='select 1'),), kwargs={})

我们可以看到,日志中多了一个confOverlay的选项,该参数项主要传递我们在配置项中设置的参数,而且不会对其他的session产生影响,只对当前的页面有效。但是这种方式也有一定的缺点,就是退出当前登录用户或者关闭页面之后,属性就会失效,需要重新配置。不过优点就是,即使是多个客户端使用相同的用户进行登录,也不会影响。

本文主要介绍了三种方式,可以在HUE里面配置指定的impala队列来执行SQL,每种方式都有各自的优缺点。后续如果有其他更好的办法进行相应的配置,也会第一时间更新分享给大家,希望能够对大家有所帮助。

这篇关于HUE配置Impala队列提交SQL的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/581336

相关文章

mybatis映射器配置小结

《mybatis映射器配置小结》本文详解MyBatis映射器配置,重点讲解字段映射的三种解决方案(别名、自动驼峰映射、resultMap),文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定... 目录select中字段的映射问题使用SQL语句中的别名功能使用mapUnderscoreToCame

Linux下MySQL数据库定时备份脚本与Crontab配置教学

《Linux下MySQL数据库定时备份脚本与Crontab配置教学》在生产环境中,数据库是核心资产之一,定期备份数据库可以有效防止意外数据丢失,本文将分享一份MySQL定时备份脚本,并讲解如何通过cr... 目录备份脚本详解脚本功能说明授权与可执行权限使用 Crontab 定时执行编辑 Crontab添加定

Java使用jar命令配置服务器端口的完整指南

《Java使用jar命令配置服务器端口的完整指南》本文将详细介绍如何使用java-jar命令启动应用,并重点讲解如何配置服务器端口,同时提供一个实用的Web工具来简化这一过程,希望对大家有所帮助... 目录1. Java Jar文件简介1.1 什么是Jar文件1.2 创建可执行Jar文件2. 使用java

SpringBoot 多环境开发实战(从配置、管理与控制)

《SpringBoot多环境开发实战(从配置、管理与控制)》本文详解SpringBoot多环境配置,涵盖单文件YAML、多文件模式、MavenProfile分组及激活策略,通过优先级控制灵活切换环境... 目录一、多环境开发基础(单文件 YAML 版)(一)配置原理与优势(二)实操示例二、多环境开发多文件版

Vite 打包目录结构自定义配置小结

《Vite打包目录结构自定义配置小结》在Vite工程开发中,默认打包后的dist目录资源常集中在asset目录下,不利于资源管理,本文基于Rollup配置原理,本文就来介绍一下通过Vite配置自定义... 目录一、实现原理二、具体配置步骤1. 基础配置文件2. 配置说明(1)js 资源分离(2)非 JS 资

MySQL8 密码强度评估与配置详解

《MySQL8密码强度评估与配置详解》MySQL8默认启用密码强度插件,实施MEDIUM策略(长度8、含数字/字母/特殊字符),支持动态调整与配置文件设置,推荐使用STRONG策略并定期更新密码以提... 目录一、mysql 8 密码强度评估机制1.核心插件:validate_password2.密码策略级

ShardingProxy读写分离之原理、配置与实践过程

《ShardingProxy读写分离之原理、配置与实践过程》ShardingProxy是ApacheShardingSphere的数据库中间件,通过三层架构实现读写分离,解决高并发场景下数据库性能瓶... 目录一、ShardingProxy技术定位与读写分离核心价值1.1 技术定位1.2 读写分离核心价值二

HTTP 与 SpringBoot 参数提交与接收协议方式

《HTTP与SpringBoot参数提交与接收协议方式》HTTP参数提交方式包括URL查询、表单、JSON/XML、路径变量、头部、Cookie、GraphQL、WebSocket和SSE,依据... 目录HTTP 协议支持多种参数提交方式,主要取决于请求方法(Method)和内容类型(Content-Ty

QT Creator配置Kit的实现示例

《QTCreator配置Kit的实现示例》本文主要介绍了使用Qt5.12.12与VS2022时,因MSVC编译器版本不匹配及WindowsSDK缺失导致配置错误的问题解决,感兴趣的可以了解一下... 目录0、背景:qt5.12.12+vs2022一、症状:二、原因:(可以跳过,直奔后面的解决方法)三、解决方

MySQL中On duplicate key update的实现示例

《MySQL中Onduplicatekeyupdate的实现示例》ONDUPLICATEKEYUPDATE是一种MySQL的语法,它在插入新数据时,如果遇到唯一键冲突,则会执行更新操作,而不是抛... 目录1/ ON DUPLICATE KEY UPDATE的简介2/ ON DUPLICATE KEY UP