纱线中的 AM 极限是多少?

What is AM limit in yarn?

我在 yarn 大数据集群中的 运行 个作业的上下文中多次听到 AM 限制这个词。

这里也提到了: https://issues.apache.org/jira/browse/YARN-6428

这是什么意思?

这是一个保证您不会活锁集群的设置。 Map-Reduce 作业有一个 AM,它会生成映射器和缩减器。如果您的队列只有 AM 任务,那么您不能 运行 任何映射器或缩减器,这意味着 none 您的 AM 将完成并且您无法做任何有意义的工作。您处于 live-lock 场景中。

Capacity Scheduler 和 Fair Scheduler 都有办法限制 AM 可以持有的任务百分比。在 Capacity Scheduler 中查找 yarn.scheduler.capacity.maximum-am-resource-percent。在 Fair Scheduler 中查找 maxAMShare.