如何 运行 远程 YARN 集群上的 Flink 作业

How to run a Flink Job on a remote YARN cluster

我在通过 scala 远程部署 Flink 作业时遇到一些问题 API。

我可以在我的集群上启动 Yarn 会话,然后 运行 我的工作在命令行中使用 jar。

我想要的是直接运行我的工作和我的IDE。如何在 Scala 中实现?

val env = ExecutionEnvironment.createRemoteEnvironment("mymaster", 6123, "myjar-with-dependencies.jar")

这不起作用,我确实意识到我没有用它声明任何 YARN 部署。

有什么帮助吗?

Flink 目前(2017 年 3 月,Flink 1.2)不允许通过 ExecutionEnvironment 以编程方式在 YARN 上部署。

您可以查看 Flink 内部未记录的 API 以将其部署在 YARN 上,然后通过远程环境提交。