纱线中的 AM 极限是多少?
What is AM limit in yarn?
我在 yarn 大数据集群中的 运行 个作业的上下文中多次听到 AM 限制这个词。
这里也提到了:
https://issues.apache.org/jira/browse/YARN-6428
这是什么意思?
这是一个保证您不会活锁集群的设置。 Map-Reduce 作业有一个 AM,它会生成映射器和缩减器。如果您的队列只有 AM 任务,那么您不能 运行 任何映射器或缩减器,这意味着 none 您的 AM 将完成并且您无法做任何有意义的工作。您处于 live-lock 场景中。
Capacity Scheduler 和 Fair Scheduler 都有办法限制 AM 可以持有的任务百分比。在 Capacity Scheduler 中查找 yarn.scheduler.capacity.maximum-am-resource-percent
。在 Fair Scheduler 中查找 maxAMShare
.
我在 yarn 大数据集群中的 运行 个作业的上下文中多次听到 AM 限制这个词。
这里也提到了: https://issues.apache.org/jira/browse/YARN-6428
这是什么意思?
这是一个保证您不会活锁集群的设置。 Map-Reduce 作业有一个 AM,它会生成映射器和缩减器。如果您的队列只有 AM 任务,那么您不能 运行 任何映射器或缩减器,这意味着 none 您的 AM 将完成并且您无法做任何有意义的工作。您处于 live-lock 场景中。
Capacity Scheduler 和 Fair Scheduler 都有办法限制 AM 可以持有的任务百分比。在 Capacity Scheduler 中查找 yarn.scheduler.capacity.maximum-am-resource-percent
。在 Fair Scheduler 中查找 maxAMShare
.