Sqoop - 在增量附加中,最后一个值将存储在哪里
Sqoop - In incremental append where will the last value getting stored
下面的 Sqoop 作业工作得很好。每次我执行时,最后一个值都会在新数据进入时追加 MySQL。我的问题是
1) In which location the last-value is getting stored?
2) Can I browse the location of last value?
3) Can I change the location of last value?
sqoop job --create myjob3 \
-- import \
--connect "jdbc:mysql://ip-122-41-11-214:3306/sqoop" \
--username wikihadoop \
--password ABCD1234 \
--target-dir /user/sachin/inDataX3 \
--table sac01 \
--split-by age \
--num-mappers -1 \
--incremental append \
--check-column id \
--last-value 1
我为 sqoop 执行了这个
sqoop job --exec myjob3
1) 最后一个值存储在哪个位置?
这取决于你运行你的导入工作:
- 从命令行:last-value 作为输出打印在屏幕上,您可以在下次导入时使用。在这种情况下,Sqoop 不会管理它。由用户来跟踪它。
- 来自已保存的作业:Sqoop 使用它的私有元存储(在 /.sqoop/ 中)或
用于保存作业详细信息的共享元存储(如 sqoop-site.xml 中所指定)。
2) 我可以浏览最后一个值的位置吗?
- 对于共享 Metastore:您可以使用 Metastore 浏览器
- 对于私有 merastore:你可以试试 sqoop-metastore
3) 我可以更改最后一个值的位置吗?
是的。您可以更改存储最后一个值的 Metastore 的位置。
下面的 Sqoop 作业工作得很好。每次我执行时,最后一个值都会在新数据进入时追加 MySQL。我的问题是
1) In which location the last-value is getting stored?
2) Can I browse the location of last value?
3) Can I change the location of last value?
sqoop job --create myjob3 \
-- import \
--connect "jdbc:mysql://ip-122-41-11-214:3306/sqoop" \
--username wikihadoop \
--password ABCD1234 \
--target-dir /user/sachin/inDataX3 \
--table sac01 \
--split-by age \
--num-mappers -1 \
--incremental append \
--check-column id \
--last-value 1
我为 sqoop 执行了这个
sqoop job --exec myjob3
1) 最后一个值存储在哪个位置?
这取决于你运行你的导入工作:
- 从命令行:last-value 作为输出打印在屏幕上,您可以在下次导入时使用。在这种情况下,Sqoop 不会管理它。由用户来跟踪它。
- 来自已保存的作业:Sqoop 使用它的私有元存储(在 /.sqoop/ 中)或 用于保存作业详细信息的共享元存储(如 sqoop-site.xml 中所指定)。
2) 我可以浏览最后一个值的位置吗?
- 对于共享 Metastore:您可以使用 Metastore 浏览器
- 对于私有 merastore:你可以试试 sqoop-metastore
3) 我可以更改最后一个值的位置吗?
是的。您可以更改存储最后一个值的 Metastore 的位置。