Flink on AWS EMR 任务节点
Flink on AWS EMR Task Nodes
是否可以在 AWS EMR 的任务节点上 运行 Flink 任务管理器?如果是,它与核心节点上的 运行ning 任务管理器有何不同?
是的,您应该能够 运行 任务节点上的 TM。我期望的唯一区别是 EMR 不会在任务节点上安排 Flink 作业管理器 (JM)(“Amazon EMR ... 允许应用程序主进程 运行 仅在核心节点上”)。
如果您的工作流程具有从 HDFS and/or 接收器读取并写入 HDFS 的源,那么这些运算符的子任务 运行 在任务节点 上 可能 需要更长的时间,因为任务节点不 运行 Hadoop 数据节点守护进程,因此所有 reads/writes 都在网络上。
是否可以在 AWS EMR 的任务节点上 运行 Flink 任务管理器?如果是,它与核心节点上的 运行ning 任务管理器有何不同?
是的,您应该能够 运行 任务节点上的 TM。我期望的唯一区别是 EMR 不会在任务节点上安排 Flink 作业管理器 (JM)(“Amazon EMR ... 允许应用程序主进程 运行 仅在核心节点上”)。
如果您的工作流程具有从 HDFS and/or 接收器读取并写入 HDFS 的源,那么这些运算符的子任务 运行 在任务节点 上 可能 需要更长的时间,因为任务节点不 运行 Hadoop 数据节点守护进程,因此所有 reads/writes 都在网络上。