对 Kafka 和 Mesos 使用相同的动物园管理员的问题

Issue using same zookeeper for Kafka and Mesos

我正尝试在我们的 8 节点集群上使用 Mesos 设置 Kafka 和 Spark,如下所示,但遇到问题 launching/starting Mesos Agent 使用 Mesos masters 的 zookeeper 端点。

  1. 在 3 个节点(server00、server01、server02)上安装和设置 Zookeeper(通过 $KAFKA_HOME/config/zookeeper.properties)

  2. 在所有 8 个节点上安装 Kafka 代理(并通过在其 $KAFKA_HOME/config/server 中设置以下 属性 将其指向 3 个动物园管理员.properties)

    zookeeper.connect=server00:2181,server01:2181,server02:2181

  3. 在 3 个节点(server00、server01、server02)上安装 Mesos master 并更新 /etc/mesos/zk以下行:

    zk://server00:2181,server01:2181,server02:2181/mesos

  4. 在所有 8 个节点上安装 Mesos 代理。

  5. 编辑所有其他服务器上的 /etc/mesos/zk 文件以包含以下行。

    zk://server00:2181,server01:2181,server02:2181/mesos

  6. 如下所示在所有 3 个主服务器上启动 Mesos 主服务器(已验证所有 Mesos 主服务器都在 运行ning 并且可以通过启动 http://server00:5050/#/、http: //server01:5050/#/, http://server02:5050/#/

    sudo /usr/sbin/mesos-master --cluster=server_mesos_cluster --log_dir=/var/log/mesos --work_dir=/var/lib/mesos

  7. 在所有 8 个服务器上启动 Mesos Agent。 在 server00 上启动的示例:

sudo /usr/sbin/mesos-slave --work_dir=/var/lib/mesos --master=zk://server00:2181,server01:2181,server02:2181/mesos --ip=9.1.69.150 但是上面没有启动代理。

但是下面的命令让我觉得也许 master mesos 没有在 zookeepers 注册。

sudo /usr/sbin/mesos-slave --work_dir=/var/lib/mesos --master=server00:5050 --ip=9.1.69.150 

任何人都可以阐明是否

  1. 我的配置不对或者
  2. 如果我必须为 Mesos 集群设置单独的动物园管理员?
  3. 我如何验证 Mesos master 是否正在向 zookeeper 注册?

一旦此设置生效,我打算 运行 在所有 8 个节点上启动。

在 Ubuntu 上,至少 /etc/mesos/zk/etc/mesos 下的其他配置文件只能由 /usr/bin/mesos-init-wrapper 读取。因此你的主人没有看到你的 zk 配置。

您需要使用初始化脚本 (service mesos-master start) 启动它,手动 运行 包装器,或者使用 -zk 选项 mesos-master

sudo /usr/sbin/mesos-master --cluster=server_mesos_cluster --log_dir=/var/log/mesos --work_dir=/var/lib/mesos --zk=zk://server00:2181,server01:2181,server02:2181/mesos

`