sqlldr批量导入数据到Oracle

2023-10-12 09:20

本文主要是介绍sqlldr批量导入数据到Oracle,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

1.基本命令

    查看参数:$sqlldr


2.导入示例

  用服务器创建导入数据的export.txt文件,示例如下:


   编写MY_TEST_sqlldr_bak.ctl控制文件

OPTIONS(BINDSIZE=10485760,READSIZE=2097152,ERRORS=-1,ROWS=250000,skip=1)

LOAD DATA

CHARACTERSET AL32UTF8

APPEND INTO TABLEMY_TEST

FIELDS TERMINATED BY X'7c'TRAILING NULLCOLS

(

 "ID" CHAR(11) NULLIF "ID"=BLANKS,

 "NAME" CHAR(20) NULLIF "NAME"=BLANKS,

 "AGE" CHAR(12) NULLIF "AGE"=BLANKS,

 "ADDRDSS" CHAR(50) NULLIF "ADDRDSS"=BLANKS,

 "HIRE_DATE" DATE "YYYY-MM-DD HH24:MI:SS" NULLIF"HIRE_DATE"=BLANKS

)

 

 ctl常见的一些参数解析:

characterset :字符集, 一般使用字符集 AL32UTF8,如果出现中文字符集乱码时,改成 ZHS16GBK。

fields terminated by 'string':文本列分隔符。当为tab键时,改成'\t',或者 X'09';空格分隔符 whitespace,换行分隔符 '\n' 或者 X'0A';回车分隔符'\r' 或者 X'0D';默认为'\t'。

optionally enclosed by 'char':字段包括符。当为 ' ' 时,不把字段包括在任何引号符号中;当为"'" 时,字段包括在单引号中;当为'"'时,字段在包括双引号中;默认不使用引用符。

fields escaped by 'char':转义字符,默认为'\'。

trailing nullcols:表字段没有对应的值时,允许为空

insert:为缺省方式,在数据装载开始时要求表为空;

append:在表中追加新记录 ;

replace:删除旧记录,替换成新装载的记录 ;

truncate:先清空表,再添加记录;


   执行导入命令测试(其实就是跟sqluldr2反向执行):

   $sqlldr smart/smart@10.45.47.16/ora16 data=export.txt control=MY_TEST_sqlldr_bak.ctl

注意:在数据导入数据库表后,查询表数据时,会发现最后一个字段的数据中含有类似空格的字符,其实不是空格,是回车换行符,通过replace函数将其替换掉即可,如下红色部分处理:

OPTIONS(DIRECT=TRUE,ERRORS=10000000,SKIP=1)

LOADDATA

CHARACTERSETZHS16GBK

INTOTABLE TEMP_001 TRUNCATE

FIELDSTERMINATED BY ',' OPTIONALLY ENCLOSED BY '"'

TRAILING NULLCOLS

(

 PROD_ID  CHAR(32)  "TRIM(:PROD_ID)",

 ACC_NUM  CHAR(20) "REPLACE(:ACC_NUM,CHR(13),'')"

)

添加默认值的关键字 CONSTANT使用方法示例:

OPTIONS(BINDSIZE=2097152,READSIZE=2097152,ERRORS=-1,ROWS=50000)
LOAD DATA
CHARACTERSET  AL32UTF8
INSERT INTO TABLE TAR_GRP_IMPORT_TEMP APPEND
FIELDS TERMINATED BY X'7C' TRAILING NULLCOLS
(
OBJ_ID "REPLACE(:OBJ_ID,CHR(13),'')",
BATCH_ID CONSTANT 17
)



sqlldr支持的数据类型,可以定义14种数据类型:

CHAR
DATE
DECIMAL EXTERNAL
DECIMAL
DOUBLE
FLOAT
FLOAT EXTERNAL
GRAPHIC EXTERNAL
INTEGER
INTEGER EXTERNAL
SMALLINT
VARCHAR
VARGRAPHIC
a、字符类型数据
CHAR[ (length)] [delimiter]
length缺省为 1,ctl文件中char(20) 一般对应数据库表中 varchar2(20) 。

b、日期类型数据
DATE [ ( length)]['date_format' [delimiter]
使用to_date函数来限制
ctl文件中 date "yyyy-mm-dd hh24:mi:ss" 对应数据库表中 date

c、字符格式中的十进制
DECIMAL EXTERNAL [(length)] [delimiter]
用于常规格式的十进制数(不是二进制=> 一个位等于一个bit)
ctl文件中 decimal external 对应 数据库表中 number

d、压缩十进制格式数据
DECIMAL (digtial [,precision])
ctl文件中 decimal对应 数据库表中 number

e、双精度符点二进制
DOUBLE

f、普通符点二进制
FLOAT

g、字符格式符点数
FLOAT EXTERNAL [ (length) ] [delimiter]

h、双字节字符串数据
GRAPHIC [ (legth)]

i、双字节字符串数据
GRAPHIC EXTERNAL[ (legth)]

j、常规全字二进制整数
INTEGER
ctl文件中的integer 对应数据库表中 integer

k、字符格式整数
INTEGER EXTERNAL

l、常规全字二进制数据
SMALLINT

m、可变长度字符串
VARCHAR
ctl文件中varchar 对应 数据库表中 varchar2
n、可变双字节字符串数据
VARGRAPHIC


3.导入性能测试(append的形式)

     命令示例:

    $sqlldrsmart/smart@10.45.47.16/ora16 data=export.txt   control=MY_TEST_sqlldr_bak.ctl


    查看日志 MY_TEST_sqlldr_bak.log,得知一千万条数据导入大要需要十分钟


这篇关于sqlldr批量导入数据到Oracle的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/194853

相关文章

MySQL数据目录迁移的完整过程

《MySQL数据目录迁移的完整过程》文章详细介绍了将MySQL数据目录迁移到新硬盘的整个过程,包括新硬盘挂载、创建新的数据目录、迁移数据(推荐使用两遍rsync方案)、修改MySQL配置文件和重启验证... 目录1,新硬盘挂载(如果有的话)2,创建新的 mysql 数据目录3,迁移 MySQL 数据(推荐两

Python数据验证神器Pydantic库的使用和实践中的避坑指南

《Python数据验证神器Pydantic库的使用和实践中的避坑指南》Pydantic是一个用于数据验证和设置的库,可以显著简化API接口开发,文章通过一个实际案例,展示了Pydantic如何在生产环... 目录1️⃣ 崩溃时刻:当你的API接口又双叒崩了!2️⃣ 神兵天降:3行代码解决验证难题3️⃣ 深度

MySQL快速复制一张表的四种核心方法(包括表结构和数据)

《MySQL快速复制一张表的四种核心方法(包括表结构和数据)》本文详细介绍了四种复制MySQL表(结构+数据)的方法,并对每种方法进行了对比分析,适用于不同场景和数据量的复制需求,特别是针对超大表(1... 目录一、mysql 复制表(结构+数据)的 4 种核心方法(面试结构化回答)方法 1:CREATE

详解C++ 存储二进制数据容器的几种方法

《详解C++存储二进制数据容器的几种方法》本文主要介绍了详解C++存储二进制数据容器,包括std::vector、std::array、std::string、std::bitset和std::ve... 目录1.std::vector<uint8_t>(最常用)特点:适用场景:示例:2.std::arra

pandas批量拆分与合并Excel文件的实现示例

《pandas批量拆分与合并Excel文件的实现示例》本文介绍了Pandas中基于整数位置的iloc和基于标签的loc方法进行数据索引和切片的操作,并将大Excel文件拆分合并,具有一定的参考价值,感... 目录一、Pandas 进行索引和切编程片的iloc、loc方法二、Pandas批量拆分与合并Exce

MySQL中的DELETE删除数据及注意事项

《MySQL中的DELETE删除数据及注意事项》MySQL的DELETE语句是数据库操作中不可或缺的一部分,通过合理使用索引、批量删除、避免全表删除、使用TRUNCATE、使用ORDERBY和LIMI... 目录1. 基本语法单表删除2. 高级用法使用子查询删除删除多表3. 性能优化策略使用索引批量删除避免

MySQL 数据库进阶之SQL 数据操作与子查询操作大全

《MySQL数据库进阶之SQL数据操作与子查询操作大全》本文详细介绍了SQL中的子查询、数据添加(INSERT)、数据修改(UPDATE)和数据删除(DELETE、TRUNCATE、DROP)操作... 目录一、子查询:嵌套在查询中的查询1.1 子查询的基本语法1.2 子查询的实战示例二、数据添加:INSE

Linux服务器数据盘移除并重新挂载的全过程

《Linux服务器数据盘移除并重新挂载的全过程》:本文主要介绍在Linux服务器上移除并重新挂载数据盘的整个过程,分为三大步:卸载文件系统、分离磁盘和重新挂载,每一步都有详细的步骤和注意事项,确保... 目录引言第一步:卸载文件系统第二步:分离磁盘第三步:重新挂载引言在 linux 服务器上移除并重新挂p

使用MyBatis TypeHandler实现数据加密与解密的具体方案

《使用MyBatisTypeHandler实现数据加密与解密的具体方案》在我们日常的开发工作中,经常会遇到一些敏感数据需要存储,比如用户的手机号、身份证号、银行卡号等,为了保障数据安全,我们通常会对... 目录1. 核心概念:什么是 TypeHandler?2. 实战场景3. 代码实现步骤步骤 1:定义 E

使用C#导出Excel数据并保存多种格式的完整示例

《使用C#导出Excel数据并保存多种格式的完整示例》在现代企业信息化管理中,Excel已经成为最常用的数据存储和分析工具,从员工信息表、销售数据报表到财务分析表,几乎所有部门都离不开Excel,本文... 目录引言1. 安装 Spire.XLS2. 创建工作簿和填充数据3. 保存为不同格式4. 效果展示5