YARN 运行 应用程序页面中的 "Allocated CPU VCores" 与 Spark UI 执行器选项卡中的 "Cores" 存在差异
Discrepancy in "Allocated CPU VCores" in YARN Running applications page and "Cores" in Spark UI Executors tab
我 运行 Spark 2.3 上的 spark 应用程序 spark.executor.cores 为 25
YARN 运行 应用程序页面中的“已分配 CPU VCores”显示 2 个 VCores(1 个用于驱动程序,1 个用于执行程序)
Spark 中的“Cores”UI Executors 选项卡显示 25 个。我也可以在阶段中看到 25 个并行任务
想知道为什么 Yarn 运行 应用程序页面显示误导性的 2 VCores。这是已知错误吗?
我确实在 HDP 上看到一个错误:https://jira.pnda.io/browse/PNDA-4006。此错误是在 HDP 2.6.5.0-292
中发现的
我 运行 Spark 2.3 上的 spark 应用程序 spark.executor.cores 为 25
YARN 运行 应用程序页面中的“已分配 CPU VCores”显示 2 个 VCores(1 个用于驱动程序,1 个用于执行程序)
Spark 中的“Cores”UI Executors 选项卡显示 25 个。我也可以在阶段中看到 25 个并行任务
想知道为什么 Yarn 运行 应用程序页面显示误导性的 2 VCores。这是已知错误吗?
我确实在 HDP 上看到一个错误:https://jira.pnda.io/browse/PNDA-4006。此错误是在 HDP 2.6.5.0-292
中发现的