hive 不同维度聚合 grouping sets 使用详情

2024-04-21 18:44

本文主要是介绍hive 不同维度聚合 grouping sets 使用详情,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

当结构数据表中,多列维度字段场景,
需要看不同维度聚合后的数据集时。

整体 demo sql

select	if(CAST (GROUPING__ID AS INT) & 8=0, A, 'all') as A,if(CAST (GROUPING__ID AS INT) & 4=0, B, 'all') as B,C,D
from table_name
where dt = '${dt}'
group byA,B,C,D	
GROUPING SETS((A)		,(B),(C)	,(D)	,(A,B)	,(A,C),(A,D),(B,C)	,(B,D)	,(C,D)	,(A,B,C)	,(A,B,D)	,(A,C,D)	,(B,C,D)	,(A,B,C,D)	

下面进行sql逐步拆解分析(建议三个模块结合着看,会更快理解该语法)

1.第一模块

select	-- A 的二进制为 8 ,如果 GROUPING__ID & 8=0 则取A值,否值为 all if(CAST (GROUPING__ID AS INT) & 8=0, A, 'all') as A-- & 运算符使用--	0	1	1	1	二进制数对应的十进制数为	7--	1	0	0	0	二进制数对应的十进制数为	8--	演示 7 & 8(1表示 真 、0表示 假;真真得真,真假得假,假假得假)--	0	1	1	1--	1	0	0	0-------------------	0	0	0	0	该二进制对应的十进制为0-- 则 7 & 8 =0-- A 的二进制为 4 ,如果 GROUPING__ID & 4=0 则取B值,否值为 all ,if(CAST (GROUPING__ID AS INT) & 4=0, B, 'all') as B,C,D

2.第二模块 (接着第一模块叙述)

from table_name
where dt = '${dt}'
group byA,B,C,D--	A	B	C	D	出现在 group by 后的位置
--	3	2	1	0	二进制排位(最先出现在group by 后的排二进制最高位)
--	8	4	2	1	二进制转化为十进制值

3.第三模块(接着第二模块叙述)

GROUPING SETS((A)		-- GROUPING__ID 值为 7,(B)	-- GROUPING__ID 值为 11,(C)	-- GROUPING__ID 值为 13,(D)	-- GROUPING__ID 值为 14,(A,B)	-- GROUPING__ID 值为 3,(A,C)	-- GROUPING__ID 值为 5,(A,D)	-- GROUPING__ID 值为 6,(B,C)	-- GROUPING__ID 值为 9,(B,D)	-- GROUPING__ID 值为 10,(C,D)	-- GROUPING__ID 值为 12,(A,B,C)	-- GROUPING__ID 值为 1,(A,B,D)	-- GROUPING__ID 值为 2,(A,C,D)	-- GROUPING__ID 值为 4,(B,C,D)	-- GROUPING__ID 值为 8,(A,B,C,D)	-- GROUPING__ID 值为 0 
)

附加测试语法

-- 将二进制化转化为十进制
rpad(reverse(bin(cast(GROUPING__ID AS bigint))),16,'0') 

这篇关于hive 不同维度聚合 grouping sets 使用详情的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/923787

相关文章

Java使用Thumbnailator库实现图片处理与压缩功能

《Java使用Thumbnailator库实现图片处理与压缩功能》Thumbnailator是高性能Java图像处理库,支持缩放、旋转、水印添加、裁剪及格式转换,提供易用API和性能优化,适合Web应... 目录1. 图片处理库Thumbnailator介绍2. 基本和指定大小图片缩放功能2.1 图片缩放的

Python使用Tenacity一行代码实现自动重试详解

《Python使用Tenacity一行代码实现自动重试详解》tenacity是一个专为Python设计的通用重试库,它的核心理念就是用简单、清晰的方式,为任何可能失败的操作添加重试能力,下面我们就来看... 目录一切始于一个简单的 API 调用Tenacity 入门:一行代码实现优雅重试精细控制:让重试按我

MySQL中EXISTS与IN用法使用与对比分析

《MySQL中EXISTS与IN用法使用与对比分析》在MySQL中,EXISTS和IN都用于子查询中根据另一个查询的结果来过滤主查询的记录,本文将基于工作原理、效率和应用场景进行全面对比... 目录一、基本用法详解1. IN 运算符2. EXISTS 运算符二、EXISTS 与 IN 的选择策略三、性能对比

使用Python构建智能BAT文件生成器的完美解决方案

《使用Python构建智能BAT文件生成器的完美解决方案》这篇文章主要为大家详细介绍了如何使用wxPython构建一个智能的BAT文件生成器,它不仅能够为Python脚本生成启动脚本,还提供了完整的文... 目录引言运行效果图项目背景与需求分析核心需求技术选型核心功能实现1. 数据库设计2. 界面布局设计3

使用IDEA部署Docker应用指南分享

《使用IDEA部署Docker应用指南分享》本文介绍了使用IDEA部署Docker应用的四步流程:创建Dockerfile、配置IDEADocker连接、设置运行调试环境、构建运行镜像,并强调需准备本... 目录一、创建 dockerfile 配置文件二、配置 IDEA 的 Docker 连接三、配置 Do

Android Paging 分页加载库使用实践

《AndroidPaging分页加载库使用实践》AndroidPaging库是Jetpack组件的一部分,它提供了一套完整的解决方案来处理大型数据集的分页加载,本文将深入探讨Paging库... 目录前言一、Paging 库概述二、Paging 3 核心组件1. PagingSource2. Pager3.

python使用try函数详解

《python使用try函数详解》Pythontry语句用于异常处理,支持捕获特定/多种异常、else/final子句确保资源释放,结合with语句自动清理,可自定义异常及嵌套结构,灵活应对错误场景... 目录try 函数的基本语法捕获特定异常捕获多个异常使用 else 子句使用 finally 子句捕获所

C++11右值引用与Lambda表达式的使用

《C++11右值引用与Lambda表达式的使用》C++11引入右值引用,实现移动语义提升性能,支持资源转移与完美转发;同时引入Lambda表达式,简化匿名函数定义,通过捕获列表和参数列表灵活处理变量... 目录C++11新特性右值引用和移动语义左值 / 右值常见的左值和右值移动语义移动构造函数移动复制运算符

Python对接支付宝支付之使用AliPay实现的详细操作指南

《Python对接支付宝支付之使用AliPay实现的详细操作指南》支付宝没有提供PythonSDK,但是强大的github就有提供python-alipay-sdk,封装里很多复杂操作,使用这个我们就... 目录一、引言二、准备工作2.1 支付宝开放平台入驻与应用创建2.2 密钥生成与配置2.3 安装ali

C#中lock关键字的使用小结

《C#中lock关键字的使用小结》在C#中,lock关键字用于确保当一个线程位于给定实例的代码块中时,其他线程无法访问同一实例的该代码块,下面就来介绍一下lock关键字的使用... 目录使用方式工作原理注意事项示例代码为什么不能lock值类型在C#中,lock关键字用于确保当一个线程位于给定实例的代码块中时