Flink 在 Marathon 中不能运行

Question

我有三个安装了 docker 的物理节点。我有一个 docker 容器，其中包含 Mesos、Marathon、Hadoop 和 Flink。我为 Mesos、Zookeeper 和 Marathon 配置了主节点和从节点。我一步一步地做这些工作。首先，在主节点中，我使用以下命令进入 docker 容器：

docker run -v /home/user/.ssh:/root/.ssh --privileged -p 5050:5050 -p 5051:5051 -p 5052:5052 -p 2181:2181 -p 8082:8081 -p 6123:6123 -p 8080:8080 -p 50090:50090 -p 50070:50070 -p 9000:9000 -p 2888:2888 -p 3888:3888 -p 4041:4040 -p 7077:7077 -p 52222:22 -e WEAVE_CIDR=10.32.0.2/12 -e MESOS_EXECUTOR_REGISTRATION_TIMEOUT=5mins -e LIBPROCESS_IP=10.32.0.2 -e MESOS_RESOURCES=ports*:[11000-11999] -ti hadoop_marathon_mesos_flink_2 /bin/bash

然后运行 Mesos 和 Zookeeper :

/home/zookeeper-3.4.14/bin/zkServer.sh restart
/home/mesos-1.7.2/build/bin/mesos-master.sh --ip=10.32.0.1 --hostname=10.32.0.1 --roles=marathon,flink --quorum=1 --work_dir=/var/run/mesos --log_dir=/var/log/mesos

在那之后运行同一容器中的马拉松：

 /home/marathon-1.7.189-48bfd6000/bin/marathon --master 10.32.0.1:5050 --zk zk://10.32.0.1:2181/marathon --hostname 10.32.0.1 --webui_url 10.32.0.1:8080 --logging_level debug

最后，我运行 hadoop:

  /opt/hadoop/sbin/start-dfs.sh

Marathon、Mesos 和 Hadoop 运行没有任何问题。我工作中最重要的部分是运行ning Flink in Marathon。我在 docker 容器中配置 Flink 是这样的：

  env.java.home: /opt/java
  jobmanager.rpc.address: 10.32.0.1
  high-availability: zookeeper
  high-availability.storageDir: hdfs:///flink/ha/
  high-availability.zookeeper.quorum: 10.32.0.1:2181,10.32.0.2:2181
  recovery.zookeeper.path.mesos-workers: /mesos-workers

在 Marathon UI 中，我创建了应用程序并将这个 JSON 文件放在上面，但是失败了。

  {
  "id": "flink",
  "cmd": "/home/flink-1.7.0/bin/mesos-appmaster.sh 
   -Dmesos.master=10.32.0.1:5050,10.32.0.2:5050 
   -Dmesos.initial-tasks=1",
  "cpus": 1.0,
  "mem": 1024
   }

Flink 应用程序在 Mesos UI 中失败。它显示此错误：

I0428 06:01:39.586699 6155 exec.cpp:162] Version: 1.7.2

I0428 06:01:39.596458 6154 exec.cpp:236] Executor registered on agent 984595ae-e811-48fb-a9f5-ca6128e1cc1a-S0

I0428 06:01:39.598870 6157 executor.cpp:188] Received SUBSCRIBED event

I0428 06:01:39.599761 6157 executor.cpp:192] Subscribed executor on 10.32.0.3

I0428 06:01:39.599963 6157 executor.cpp:188] Received LAUNCH event

I0428 06:01:39.601236 6157 executor.cpp:697] Starting task flink.16a7cc18-697b-11e9-928f-ce235caa831e

I0428 06:01:39.613719 6157 executor.cpp:712] Forked command at 6163

I0428 06:01:39.787395 6157 executor.cpp:1013] Command exited with status 1 (pid: 6163)

I0428 06:01:40.791885 6162 process.cpp:927] Stopped the socket accept loop

奇怪的是，在 STDout 中，我看到了这段文字；即使我在 /etc/environment 和 flink-conf.yam.

中设置了 JAVA_HOME

Please specify JAVA_HOME. Either in Flink config ./conf/flink-conf.yaml or as system-wide JAVA_HOME.

你能告诉我我应该怎么做才能解决这个问题吗？

非常感谢。

Answer 1

您可以在Slave节点查看您的Flink日志。另外，最好像这样更改 JSON 文件。它可以帮助您跟进您的申请。

 {
  "id": "flink",
  "cmd": "/home/flink-1.7.0/bin/mesos-appmaster.sh -Djobmanager.heap.mb=1024 
  -Djobmanager.rpc.port=6123 -Drest.port=8081 
  -Dmesos.resourcemanager.tasks.mem=1024 -Dtaskmanager.heap.mb=1024 
  -Dtaskmanager.numberOfTaskSlots=2 -Dparallelism.default=2 
  -Dmesos.resourcemanager.tasks.cpus=1",
   "cpus": 1.0,
   "mem": 1024,
   "fetch": [
     {
      "uri": "/home/flink-1.7.0/bin/mesos-appmaster.sh",
      "executable": true
     }
      ]
    }

此外，JAVA_HOME 到 Flink_conf.yaml 在每个节点中，主节点和从节点。

 env.java.home: /opt/java

通过添加 JAVA_HOME，您不会在 STDOUT 中看到错误。

觉得有用

Flink 在 Marathon 中不能运行

Flink cannot be run in Marathon

docker

apache-flink

mesos

marathon

Flink 在 Marathon 中不能 运行

Flink cannot be run in Marathon

docker

apache-flink

mesos

marathon

Flink 在 Marathon 中不能运行