Hive中DDL数据定义之管理表与外部表

2024-05-13 12:48

本文主要是介绍Hive中DDL数据定义之管理表与外部表,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

管理表

1.理论

默认创建的表都是所谓的管理表,有时也被称为内部表。因为这种表,Hive会(或多或少地)控制着数据的生命周期。Hive默认情况下会将这些表的数据存储在由配置项hive.metastore.warehouse.dir(例如,/user/hive/warehouse)所定义的目录的子目录下。    当我们删除一个管理表时,Hive也会删除这个表中数据。管理表不适合和其他工具共享数据。

2.案例

  1)普通创建表



  • create table if not exists student(
     


  • id int, 
     


  • name string
     


  • )
     


  • row format delimited fields terminated by '\t'
     


  • stored as textfile
     


  • location '/user/hive/warehouse/student';

     

  2)根据查询结果创建表(查询的结果会添加到新创建的表中)



  • create table if not exists student1
     


  • as select id, name from student;

     

  3)根据已经存在的表结构创建表

create table if not exists student2 like student;

  4)查询表的类型

desc formatted student;

      

 

外部表

1.理论

因为表是外部表,所有Hive并非认为其完全拥有这份数据。删除该表并不会删除掉这份数据(在HDFS中仍然存在),不过描述表的元数据信息会被删除掉(在mysql中的元数据)

2.管理表和外部表的使用场景

每天将收集到的网站日志定期流入HDFS文本文件。在外部表(原始日志表)的基础上做大量的统计分析,用到的中间表、结果表使用内部表存储,数据通过SELECT+INSERT进入内部表。

3.案例

分别创建部门和员工外部表,并向表中导入数据

  1)原始数据

dept.txt



  • 10        ACCOUNTING        1700
     


  • 20        RESEARCH        1800
     


  • 30        SALES            1900
     


  • 40        OPERATIONS        1700

     

emp.txt



  • 7369        SMITH        CLERK        7902        1980-12-17        800.00                20
     


  • 7499        ALLEN        SALESMAN        7698        1981-2-20        1600.00        300.00        30
     


  • 7521        WARD        SALESMAN        7698        1981-2-22        1250.00        500.00        30
     


  • 7566        JONES        MANAGER        7839        1981-4-2        2975.00                20
     


  • 7654        MARTIN        SALESMAN        7698        1981-9-28        1250.00        1400.00        30
     


  • 7698        BLAKE        MANAGER        7839        1981-5-1        2850.00                30
     


  • 7782        CLARK        MANAGER        7839        1981-6-9        2450.00                10
     


  • 7788        SCOTT        ANALYST        7566        1987-4-19        3000.00                20
     


  • 7839        KING        PRESIDENT                1981-11-17        5000.00                10
     


  • 7844        TURNER        SALESMAN        7698        1981-9-8        1500.00        0.00        30
     


  • 7876        ADAMS        CLERK        7788        1987-5-23        1100.00                20
     


  • 7900        JAMES        CLERK        7698        1981-12-3        950.00                30
     


  • 7902        FORD        ANALYST        7566        1981-12-3        3000.00                20
     


  • 7934        MILLER        CLERK        7782        1982-1-23        1300.00                10

     

  2)建表语句

创建部门表



  • create external table if not exists default.dept(
     


  • deptno int,
     


  • dname string,
     


  • loc int
     


  • )
     


  • row format delimited fields terminated by '\t';

     

创建员工表



  • create external table if not exists default.emp(
     


  • empno int,
     


  • ename string,
     


  • job string,
     


  • mgr int,
     


  • hiredate string, 
     


  • sal double, 
     


  • comm double,
     


  • deptno int)
     


  • row format delimited fields terminated by '\t';

     

  3)导入数据



  • load data local inpath '/opt/package/hive/txt/dept.txt' into table dept;
     


  • load data local inpath '/opt/package/hive/txt/emp.txt' into table emp;

     

  4)查看表格式化数据

 

这篇关于Hive中DDL数据定义之管理表与外部表的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/985748

相关文章

MySQL快速复制一张表的四种核心方法(包括表结构和数据)

《MySQL快速复制一张表的四种核心方法(包括表结构和数据)》本文详细介绍了四种复制MySQL表(结构+数据)的方法,并对每种方法进行了对比分析,适用于不同场景和数据量的复制需求,特别是针对超大表(1... 目录一、mysql 复制表(结构+数据)的 4 种核心方法(面试结构化回答)方法 1:CREATE

详解C++ 存储二进制数据容器的几种方法

《详解C++存储二进制数据容器的几种方法》本文主要介绍了详解C++存储二进制数据容器,包括std::vector、std::array、std::string、std::bitset和std::ve... 目录1.std::vector<uint8_t>(最常用)特点:适用场景:示例:2.std::arra

MySQL中的DELETE删除数据及注意事项

《MySQL中的DELETE删除数据及注意事项》MySQL的DELETE语句是数据库操作中不可或缺的一部分,通过合理使用索引、批量删除、避免全表删除、使用TRUNCATE、使用ORDERBY和LIMI... 目录1. 基本语法单表删除2. 高级用法使用子查询删除删除多表3. 性能优化策略使用索引批量删除避免

MySQL 数据库进阶之SQL 数据操作与子查询操作大全

《MySQL数据库进阶之SQL数据操作与子查询操作大全》本文详细介绍了SQL中的子查询、数据添加(INSERT)、数据修改(UPDATE)和数据删除(DELETE、TRUNCATE、DROP)操作... 目录一、子查询:嵌套在查询中的查询1.1 子查询的基本语法1.2 子查询的实战示例二、数据添加:INSE

Linux服务器数据盘移除并重新挂载的全过程

《Linux服务器数据盘移除并重新挂载的全过程》:本文主要介绍在Linux服务器上移除并重新挂载数据盘的整个过程,分为三大步:卸载文件系统、分离磁盘和重新挂载,每一步都有详细的步骤和注意事项,确保... 目录引言第一步:卸载文件系统第二步:分离磁盘第三步:重新挂载引言在 linux 服务器上移除并重新挂p

使用MyBatis TypeHandler实现数据加密与解密的具体方案

《使用MyBatisTypeHandler实现数据加密与解密的具体方案》在我们日常的开发工作中,经常会遇到一些敏感数据需要存储,比如用户的手机号、身份证号、银行卡号等,为了保障数据安全,我们通常会对... 目录1. 核心概念:什么是 TypeHandler?2. 实战场景3. 代码实现步骤步骤 1:定义 E

使用C#导出Excel数据并保存多种格式的完整示例

《使用C#导出Excel数据并保存多种格式的完整示例》在现代企业信息化管理中,Excel已经成为最常用的数据存储和分析工具,从员工信息表、销售数据报表到财务分析表,几乎所有部门都离不开Excel,本文... 目录引言1. 安装 Spire.XLS2. 创建工作簿和填充数据3. 保存为不同格式4. 效果展示5

Python多任务爬虫实现爬取图片和GDP数据

《Python多任务爬虫实现爬取图片和GDP数据》本文主要介绍了基于FastAPI开发Web站点的方法,包括搭建Web服务器、处理图片资源、实现多任务爬虫和数据可视化,同时,还简要介绍了Python爬... 目录一. 基于FastAPI之Web站点开发1. 基于FastAPI搭建Web服务器2. Web服务

MySQL 批量插入的原理和实战方法(快速提升大数据导入效率)

《MySQL批量插入的原理和实战方法(快速提升大数据导入效率)》在日常开发中,我们经常需要将大量数据批量插入到MySQL数据库中,本文将介绍批量插入的原理、实现方法,并结合Python和PyMySQ... 目录一、批量插入的优势二、mysql 表的创建示例三、python 实现批量插入1. 安装 PyMyS

关于MySQL将表中数据删除后多久空间会被释放出来

《关于MySQL将表中数据删除后多久空间会被释放出来》MySQL删除数据后,空间不会立即释放给操作系统,而是会被标记为“可重用”,以供未来插入新数据时使用,只有满足特定条件时,空间才可能真正返还给操作... 目录一、mysql数据删除与空间管理1.1 理解MySQL数据删除原理1.3 执行SQL1.3 使用