sqlldr批量导入导出数据测试

sqlldr是在处理大数据量的操作中建议采用的方式，它有许多性能想关的开关，能最大程度的减少redo,undo的生成，控制数据的处理方式（insert,append,replace,truncate）因为项目需要，对比datapump性能还是不理想，所以还是希望采用sqlldr来做。个人做了简单的测试。根据thomas kyte的介绍，并行执行路径加载时最快的方式，能够直接写只格式化的数据块，最大限度的减少redo,undo的生成。Linux环境下sqlldr一个csv文件 http://www.linuxidc.com/Linux/2014-04/99834.htmsqlldr加载文件，ORA-01722: invalid number解决 http://www.linuxidc.com/Linux/2013-06/85894.htmOracle sqlldr导入以回车和回车换行字符结尾的文本 http://www.linuxidc.com/Linux/2012-02/54522.htmsqlldr 导入乱码 Oracle客户端字符集问题 http://www.linuxidc.com/Linux/2011-12/49918.htmOracle sqlldr导入数据使用默认值和提高性能的方法 http://www.linuxidc.com/Linux/2011-11/46834.htm先写了如下的脚本。可以动态的从某个用户的表中生成元数据。

sqlplus -s $1 <<EOF
set pages 0
col object_name format a30
set linseize 10000
set feedback off
set colsep ","
spool $2.lst
select *from $2 ;
spool off;
EOF

运行后生成的数据大体如下。
[ora11g@rac1 sqlldr]$ ksh spooldata.sh n1/n1 t
370753, 10205,KU$_DOMIDX_OBJNUM_VIEW ,VIEW
370754, 10207,KU$_OPTION_OBJNUM_T ,TYPE
370755, 10208,KU$_EXPREG ,VIEW
370756, 10210,SYS_YOID0000010209$ ,TYPE
370757, 10209,KU$_OPTION_OBJNUM_VIEW ,VIEW
370758, 10211,KU$_OPTION_VIEW_OBJNUM_VIEW ,VIEW
370759, 10212,KU$_MARKER_T ,TYPE
370760, 10214,SYS_YOID0000010213$ ,TYPE
370761, 10213,KU$_MARKER_VIEW ,VIEW
370762, 10215,KU$_TABPROP_VIEW ,VIEW
370763, 10216,KU$_PFHTABPROP_VIEW ,VIEW
370764, 10217,KU$_REFPARTTABPROP_VIEW ,VIEW
370765, 10218,KU$_MVPROP_VIEW ,VIEW
370766, 10219,KU$_MVLPROP_VIEW ,VIEW
370767, 10220,KU$_TTS_VIEW ,VIEW
370768, 10221,KU$_TAB_TS_VIEW ,VIEW
370769, 10222,KU$_TTS_IND_VIEW ,VIEW
370770, 10223,KU$_IND_TS_VIEW ,VIEW
370771, 10224,KU$_CLU_TS_VIEW ,VIEW

然后准备控制文件 sqlldr.ctl,把数据从t加载到tt里面去。
load data
into table tt
fields terminated by ","
（id,object_id,object_name,object_type）

尝试导入：
[ora11g@rac1 sqlldr]$ sqlldr n1/n1 control=sqlldr.ctl data=t.lst
SQL*Loader: Release 11.2.0.3.0 - Production on Tue May 27 08:09:25 2014
Copyright （c） 1982, 2011, Oracle and/or its affiliates. All rights reserved.
但是没有任何的反馈。
查看自动生成的sqlldr.log
里面有如下的错误。

Column Name Position Len Term Encl Datatype
------------------------------ ---------- ----- ---- ---- ---------------------
ID FIRST * , CHARACTER
OBJECT_ID NEXT * , CHARACTER
OBJECT_NAME NEXT * , CHARACTER
OBJECT_TYPE NEXT * , CHARACTER
Record 1: Rejected - Error on table TT, column OBJECT_TYPE.
Field in data file exceeds maximum length
Record 2: Rejected - Error on table TT, column OBJECT_TYPE.
Field in data file exceeds maximum length
Record 3: Rejected - Error on table TT, column OBJECT_TYPE.
Field in data file exceeds maximum length
Record 4: Rejected - Error on table TT, column OBJECT_TYPE.
Field in data file exceeds maximum length

尝试了好一会儿，最终发现时set linesize的时候长度设置的比较大，在根据逗号","来解析的时候，最后一个字段的长度就包含了剩余的空格，最终加载的时候就会发现它的长度太大了。已经超出了表定义的长度。
这种情况，我总不能一个一个指定长度吧。
这时候想到trimspool的功能，尝试果然奏效。
spooldata.sh的脚本内容如下：
sqlplus -s $1 <<EOF
set pages 0
col object_name format a30
set linesize 10000
set trimspool on
set feedback off
set colsep ","
spool $2.lst
select *from $2 where rownum<20 ;
spool off;
EOF
再次尝试导入，就没有问题了。
[ora11g@rac1 sqlldr]$ sqlldr n1/n1 control=sqlldr.ctl data=t.lst
SQL*Loader: Release 11.2.0.3.0 - Production on Tue May 27 08:14:44 2014
Copyright （c） 1982, 2011, Oracle and/or its affiliates. All rights reserved.
Commit point reached - logical record count 19

到此为止，来开始看看direct方式到底有多大的性能提升
对于将近80万的数据量测试情况如下。
没有采用direct方式的时候，会有一定的频度（默认50条一次）来加载数据，耗时79秒，基本一秒一万条
Commit point reached - logical record count 793480
Commit point reached - logical record count 793544
Commit point reached - logical record count 793608
Commit point reached - logical record count 793672
Commit point reached - logical record count 793736
Commit point reached - logical record count 793800
Commit point reached - logical record count 793864
Commit point reached - logical record count 793928
Commit point reached - logical record count 793992
Commit point reached - logical record count 794056
Commit point reached - logical record count 794120
Commit point reached - logical record count 794184
Commit point reached - logical record count 794248
Commit point reached - logical record count 794312
Commit point reached - logical record count 794369

但是使用了direct=true的时候，速度明显提升，而且输出也很简单，就下面一行。耗时8秒，基本一秒10万条数据。
8s
[ora11g@rac1 sqlldr]$ sqlldr n1/n1 direct=true control=sqlldr.ctl data=t.lst
SQL*Loader: Release 11.2.0.3.0 - Production on Tue May 27 07:56:31 2014
Copyright （c） 1982, 2011, Oracle and/or its affiliates. All rights reserved.
Load completed - logical record count 794369.更多Oracle相关信息见Oracle 专题页面 http://www.linuxidc.com/topicnews.aspx？tid=12本文永久更新链接地址