Spring Boot YARN如何部署到Hadoop

Spring Boot YARN how to deploy to Hadoop

我正在尝试 运行 Spring 启动 YARN 示例(https://spring.io/guides/gs/yarn-basic/ on Windows)。但是示例使用本地 hadoop。在 application.yml 中,我更改了 fsUri 和 resourceManagerHost 以指向我的 VM 主机 192.168....

但是没用。 当我将 jar 移动到 VM 并且 运行 - 它起作用了。但是我想 运行 从我的主机针对另一个节点(在我的例子中是 VM)。

还有一个问题:运行 我的应用程序针对另一个真正的 Hadoop YARN 而不是针对本地的正确方法是什么?

我搜索、阅读、观看了很多信息,但没有关于部署的明确解释。

只需要正确配置 Hadoop,在我的例子中,它已修复 post。

问题中提供的教程 link 适用于 single node cluster,其中 NamenodeResourcemanagerApplicationManagerdatanodeNodemanager 和所有其他 YARN nodes 运行 在同一台本地计算机上。地址 localhost:8020 在这种情况下有效。

但是正如您提到的目的是制作一个 cluster,您必须确保只有一个 namenoderesourcemanager

如果您在 configuration files 中定义 localhost 那么 cluster 中的每个节点都将执行 namenode 并且 resourcemanagerhadoop 将执行对报告和更新查询感到困惑。从而导致模棱两可的情况。

解决方案是只定义一个 namenoderesourcemanager,这可以通过在 namenode (master) 中指定一个 IPhostname 来完成配置文件。