sqlldr批量导入数据到Oracle

2023-10-12 09:20

本文主要是介绍sqlldr批量导入数据到Oracle,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

1.基本命令

    查看参数:$sqlldr


2.导入示例

  用服务器创建导入数据的export.txt文件,示例如下:


   编写MY_TEST_sqlldr_bak.ctl控制文件

OPTIONS(BINDSIZE=10485760,READSIZE=2097152,ERRORS=-1,ROWS=250000,skip=1)

LOAD DATA

CHARACTERSET AL32UTF8

APPEND INTO TABLEMY_TEST

FIELDS TERMINATED BY X'7c'TRAILING NULLCOLS

(

 "ID" CHAR(11) NULLIF "ID"=BLANKS,

 "NAME" CHAR(20) NULLIF "NAME"=BLANKS,

 "AGE" CHAR(12) NULLIF "AGE"=BLANKS,

 "ADDRDSS" CHAR(50) NULLIF "ADDRDSS"=BLANKS,

 "HIRE_DATE" DATE "YYYY-MM-DD HH24:MI:SS" NULLIF"HIRE_DATE"=BLANKS

)

 

 ctl常见的一些参数解析:

characterset :字符集, 一般使用字符集 AL32UTF8,如果出现中文字符集乱码时,改成 ZHS16GBK。

fields terminated by 'string':文本列分隔符。当为tab键时,改成'\t',或者 X'09';空格分隔符 whitespace,换行分隔符 '\n' 或者 X'0A';回车分隔符'\r' 或者 X'0D';默认为'\t'。

optionally enclosed by 'char':字段包括符。当为 ' ' 时,不把字段包括在任何引号符号中;当为"'" 时,字段包括在单引号中;当为'"'时,字段在包括双引号中;默认不使用引用符。

fields escaped by 'char':转义字符,默认为'\'。

trailing nullcols:表字段没有对应的值时,允许为空

insert:为缺省方式,在数据装载开始时要求表为空;

append:在表中追加新记录 ;

replace:删除旧记录,替换成新装载的记录 ;

truncate:先清空表,再添加记录;


   执行导入命令测试(其实就是跟sqluldr2反向执行):

   $sqlldr smart/smart@10.45.47.16/ora16 data=export.txt control=MY_TEST_sqlldr_bak.ctl

注意:在数据导入数据库表后,查询表数据时,会发现最后一个字段的数据中含有类似空格的字符,其实不是空格,是回车换行符,通过replace函数将其替换掉即可,如下红色部分处理:

OPTIONS(DIRECT=TRUE,ERRORS=10000000,SKIP=1)

LOADDATA

CHARACTERSETZHS16GBK

INTOTABLE TEMP_001 TRUNCATE

FIELDSTERMINATED BY ',' OPTIONALLY ENCLOSED BY '"'

TRAILING NULLCOLS

(

 PROD_ID  CHAR(32)  "TRIM(:PROD_ID)",

 ACC_NUM  CHAR(20) "REPLACE(:ACC_NUM,CHR(13),'')"

)

添加默认值的关键字 CONSTANT使用方法示例:

OPTIONS(BINDSIZE=2097152,READSIZE=2097152,ERRORS=-1,ROWS=50000)
LOAD DATA
CHARACTERSET  AL32UTF8
INSERT INTO TABLE TAR_GRP_IMPORT_TEMP APPEND
FIELDS TERMINATED BY X'7C' TRAILING NULLCOLS
(
OBJ_ID "REPLACE(:OBJ_ID,CHR(13),'')",
BATCH_ID CONSTANT 17
)



sqlldr支持的数据类型,可以定义14种数据类型:

CHAR
DATE
DECIMAL EXTERNAL
DECIMAL
DOUBLE
FLOAT
FLOAT EXTERNAL
GRAPHIC EXTERNAL
INTEGER
INTEGER EXTERNAL
SMALLINT
VARCHAR
VARGRAPHIC
a、字符类型数据
CHAR[ (length)] [delimiter]
length缺省为 1,ctl文件中char(20) 一般对应数据库表中 varchar2(20) 。

b、日期类型数据
DATE [ ( length)]['date_format' [delimiter]
使用to_date函数来限制
ctl文件中 date "yyyy-mm-dd hh24:mi:ss" 对应数据库表中 date

c、字符格式中的十进制
DECIMAL EXTERNAL [(length)] [delimiter]
用于常规格式的十进制数(不是二进制=> 一个位等于一个bit)
ctl文件中 decimal external 对应 数据库表中 number

d、压缩十进制格式数据
DECIMAL (digtial [,precision])
ctl文件中 decimal对应 数据库表中 number

e、双精度符点二进制
DOUBLE

f、普通符点二进制
FLOAT

g、字符格式符点数
FLOAT EXTERNAL [ (length) ] [delimiter]

h、双字节字符串数据
GRAPHIC [ (legth)]

i、双字节字符串数据
GRAPHIC EXTERNAL[ (legth)]

j、常规全字二进制整数
INTEGER
ctl文件中的integer 对应数据库表中 integer

k、字符格式整数
INTEGER EXTERNAL

l、常规全字二进制数据
SMALLINT

m、可变长度字符串
VARCHAR
ctl文件中varchar 对应 数据库表中 varchar2
n、可变双字节字符串数据
VARGRAPHIC


3.导入性能测试(append的形式)

     命令示例:

    $sqlldrsmart/smart@10.45.47.16/ora16 data=export.txt   control=MY_TEST_sqlldr_bak.ctl


    查看日志 MY_TEST_sqlldr_bak.log,得知一千万条数据导入大要需要十分钟


这篇关于sqlldr批量导入数据到Oracle的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/194853

相关文章

SpringBoot+EasyExcel实现自定义复杂样式导入导出

《SpringBoot+EasyExcel实现自定义复杂样式导入导出》这篇文章主要为大家详细介绍了SpringBoot如何结果EasyExcel实现自定义复杂样式导入导出功能,文中的示例代码讲解详细,... 目录安装处理自定义导出复杂场景1、列不固定,动态列2、动态下拉3、自定义锁定行/列,添加密码4、合并

SQL中如何添加数据(常见方法及示例)

《SQL中如何添加数据(常见方法及示例)》SQL全称为StructuredQueryLanguage,是一种用于管理关系数据库的标准编程语言,下面给大家介绍SQL中如何添加数据,感兴趣的朋友一起看看吧... 目录在mysql中,有多种方法可以添加数据。以下是一些常见的方法及其示例。1. 使用INSERT I

Python使用vllm处理多模态数据的预处理技巧

《Python使用vllm处理多模态数据的预处理技巧》本文深入探讨了在Python环境下使用vLLM处理多模态数据的预处理技巧,我们将从基础概念出发,详细讲解文本、图像、音频等多模态数据的预处理方法,... 目录1. 背景介绍1.1 目的和范围1.2 预期读者1.3 文档结构概述1.4 术语表1.4.1 核

MySQL 删除数据详解(最新整理)

《MySQL删除数据详解(最新整理)》:本文主要介绍MySQL删除数据的相关知识,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录一、前言二、mysql 中的三种删除方式1.DELETE语句✅ 基本语法: 示例:2.TRUNCATE语句✅ 基本语

Java easyExcel实现导入多sheet的Excel

《JavaeasyExcel实现导入多sheet的Excel》这篇文章主要为大家详细介绍了如何使用JavaeasyExcel实现导入多sheet的Excel,文中的示例代码讲解详细,感兴趣的小伙伴可... 目录1.官网2.Excel样式3.代码1.官网easyExcel官网2.Excel样式3.代码

MyBatisPlus如何优化千万级数据的CRUD

《MyBatisPlus如何优化千万级数据的CRUD》最近负责的一个项目,数据库表量级破千万,每次执行CRUD都像走钢丝,稍有不慎就引起数据库报警,本文就结合这个项目的实战经验,聊聊MyBatisPl... 目录背景一、MyBATis Plus 简介二、千万级数据的挑战三、优化 CRUD 的关键策略1. 查

python实现对数据公钥加密与私钥解密

《python实现对数据公钥加密与私钥解密》这篇文章主要为大家详细介绍了如何使用python实现对数据公钥加密与私钥解密,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录公钥私钥的生成使用公钥加密使用私钥解密公钥私钥的生成这一部分,使用python生成公钥与私钥,然后保存在两个文

mysql中的数据目录用法及说明

《mysql中的数据目录用法及说明》:本文主要介绍mysql中的数据目录用法及说明,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1、背景2、版本3、数据目录4、总结1、背景安装mysql之后,在安装目录下会有一个data目录,我们创建的数据库、创建的表、插入的

Navicat数据表的数据添加,删除及使用sql完成数据的添加过程

《Navicat数据表的数据添加,删除及使用sql完成数据的添加过程》:本文主要介绍Navicat数据表的数据添加,删除及使用sql完成数据的添加过程,具有很好的参考价值,希望对大家有所帮助,如有... 目录Navicat数据表数据添加,删除及使用sql完成数据添加选中操作的表则出现如下界面,查看左下角从左

SpringBoot中4种数据水平分片策略

《SpringBoot中4种数据水平分片策略》数据水平分片作为一种水平扩展策略,通过将数据分散到多个物理节点上,有效解决了存储容量和性能瓶颈问题,下面小编就来和大家分享4种数据分片策略吧... 目录一、前言二、哈希分片2.1 原理2.2 SpringBoot实现2.3 优缺点分析2.4 适用场景三、范围分片