Druid Mapreduce 作业未在 Google Dataproc 仪表板上列出
Druid Mapreduce job not listed on Google Dataproc dashboard
我会解释我的情况。我有一个本地 Apache Druid,我设法让 Druid 在 Dataproc 集群上执行 Hadoop 摄取作业 (Mapreduce)。作业 运行 没问题,但问题在 Dataproc 仪表板上不可见。
注意:Dataproc 集群和 Druid 之间的唯一连接是主节点和 Druid 集群之间的 VPN 连接。
如果您不是通过 Dataproc API 提交 MapReduce 作业,而是通过其他方式(例如直接提交到 YARN),那么它在 Dataproc 仪表板中将不可用。但在这种情况下,您应该能够通过 YARN 资源管理器 UI 在 Component Gateway.
中查看作业
我会解释我的情况。我有一个本地 Apache Druid,我设法让 Druid 在 Dataproc 集群上执行 Hadoop 摄取作业 (Mapreduce)。作业 运行 没问题,但问题在 Dataproc 仪表板上不可见。
注意:Dataproc 集群和 Druid 之间的唯一连接是主节点和 Druid 集群之间的 VPN 连接。
如果您不是通过 Dataproc API 提交 MapReduce 作业,而是通过其他方式(例如直接提交到 YARN),那么它在 Dataproc 仪表板中将不可用。但在这种情况下,您应该能够通过 YARN 资源管理器 UI 在 Component Gateway.
中查看作业