Sqoop 导入 Oracle 到 HDFS 3 条记录就可以了。完整 table 失败

Question

我通过 Sqoop 将数据从 Oracle 导入到 HDFS，3 条记录可以使用以下命令：

./sqoop-import --connect <oracle-jdbc-string> --username <my-user-name> --password <my-password> --table SYS_GROUP --where "Sys_Group_ID < 4"

作业成功完成，有 3 条记录。

但是当我想导入完整的table时，它失败了。命令：

./sqoop-import --connect jdbc:oracle:thin:@10.58.71.164:1521:dbmss01 --username <my-user-name> --password <my-password> --table SYS_GROUP --fetch-size 100

日志：

15/12/04 02:32:19 INFO mapreduce.Job: Job job_1448967962138_0005 failed with state FAILED due to: Task failed task_1448967962138_0005_m_000003<br><br>
Job failed as tasks failed. failedMaps:1 failedReduces:0
15/12/04 02:32:19 INFO mapreduce.ImportJobBase: Transferred 378.3994 KB in 96.9962 seconds (3.9012 KB/sec)<br><br>
15/12/04 02:32:19 INFO mapreduce.ImportJobBase: Retrieved 1474 records.<br><br>
15/12/04 02:32:19 ERROR tool.ImportTool: Error during import: Import job failed!

Answer 1

您查看的日志有误，需要查看地图任务日志。转到资源管理器 Web UI，导航到 map reduce 作业，单击失败的 map 任务并查看问题所在。

Answer 2

尝试通过在末尾附加 --m 5 来增加映射器的数量

Sqoop 导入 Oracle 到 HDFS 3 条记录就可以了。完整 table 失败

Import Oracle to HDFS by Sqoop with 3 records is OK. Failed for full table

oracle

hadoop

hdfs

sqoop