Spring Boot YARN如何部署到Hadoop
Spring Boot YARN how to deploy to Hadoop
我正在尝试 运行 Spring 启动 YARN 示例(https://spring.io/guides/gs/yarn-basic/ on Windows)。但是示例使用本地 hadoop。在 application.yml 中,我更改了 fsUri 和 resourceManagerHost 以指向我的 VM 主机 192.168....
但是没用。
当我将 jar 移动到 VM 并且 运行 - 它起作用了。但是我想 运行 从我的主机针对另一个节点(在我的例子中是 VM)。
还有一个问题:运行 我的应用程序针对另一个真正的 Hadoop YARN 而不是针对本地的正确方法是什么?
我搜索、阅读、观看了很多信息,但没有关于部署的明确解释。
只需要正确配置 Hadoop,在我的例子中,它已修复 post。
问题中提供的教程 link 适用于 single node cluster
,其中 Namenode
、Resourcemanager
、ApplicationManager
、datanode
、Nodemanager
和所有其他 YARN nodes
运行 在同一台本地计算机上。地址 localhost:8020
在这种情况下有效。
但是正如您提到的目的是制作一个 cluster
,您必须确保只有一个 namenode
和 resourcemanager
。
如果您在 configuration files
中定义 localhost
那么 cluster
中的每个节点都将执行 namenode
并且 resourcemanager
和 hadoop
将执行对报告和更新查询感到困惑。从而导致模棱两可的情况。
解决方案是只定义一个 namenode
和 resourcemanager
,这可以通过在 namenode (master)
中指定一个 IP
或 hostname
来完成配置文件。
我正在尝试 运行 Spring 启动 YARN 示例(https://spring.io/guides/gs/yarn-basic/ on Windows)。但是示例使用本地 hadoop。在 application.yml 中,我更改了 fsUri 和 resourceManagerHost 以指向我的 VM 主机 192.168....
但是没用。 当我将 jar 移动到 VM 并且 运行 - 它起作用了。但是我想 运行 从我的主机针对另一个节点(在我的例子中是 VM)。
还有一个问题:运行 我的应用程序针对另一个真正的 Hadoop YARN 而不是针对本地的正确方法是什么?
我搜索、阅读、观看了很多信息,但没有关于部署的明确解释。
只需要正确配置 Hadoop,在我的例子中,它已修复
问题中提供的教程 link 适用于 single node cluster
,其中 Namenode
、Resourcemanager
、ApplicationManager
、datanode
、Nodemanager
和所有其他 YARN nodes
运行 在同一台本地计算机上。地址 localhost:8020
在这种情况下有效。
但是正如您提到的目的是制作一个 cluster
,您必须确保只有一个 namenode
和 resourcemanager
。
如果您在 configuration files
中定义 localhost
那么 cluster
中的每个节点都将执行 namenode
并且 resourcemanager
和 hadoop
将执行对报告和更新查询感到困惑。从而导致模棱两可的情况。
解决方案是只定义一个 namenode
和 resourcemanager
,这可以通过在 namenode (master)
中指定一个 IP
或 hostname
来完成配置文件。