Sqoop - 在增量附加中,最后一个值将存储在哪里

Sqoop - In incremental append where will the last value getting stored

下面的 Sqoop 作业工作得很好。每次我执行时,最后一个值都会在新数据进入时追加 MySQL。我的问题是

1) In which location the last-value is getting stored?

2) Can I browse the location of last value?

3) Can I change the location of last value?

sqoop job --create myjob3 \
-- import \
--connect "jdbc:mysql://ip-122-41-11-214:3306/sqoop" \
--username wikihadoop \
--password ABCD1234 \
--target-dir /user/sachin/inDataX3 \
--table sac01 \
--split-by age \
--num-mappers -1 \
--incremental append \
--check-column id \
--last-value 1

我为 sqoop 执行了这个

sqoop job --exec myjob3

1) 最后一个值存储在哪个位置?

这取决于你运行你的导入工作:

  • 从命令行:last-value 作为输出打印在屏幕上,您可以在下次导入时使用。在这种情况下,Sqoop 不会管理它。由用户来跟踪它。
  • 来自已保存的作业:Sqoop 使用它的私有元存储(在 /.sqoop/ 中)或 用于保存作业详细信息的共享元存储(如 sqoop-site.xml 中所指定)。

2) 我可以浏览最后一个值的位置吗?

  • 对于共享 Metastore:您可以使用 Metastore 浏览器
  • 对于私有 merastore:你可以试试 sqoop-metastore

3) 我可以更改最后一个值的位置吗?

是的。您可以更改存储最后一个值的 Metastore 的位置。