数据流作业失败 - "Resource worker_pool_resource failed to shut down"

Dataflow job failed - "Resource worker_pool_resource failed to shut down"

下面的错误是什么意思?

Jan 12, 2016, 11:07:12 AM
(8e14844346add98d): Workflow failed. Causes: (8e14844346addb8e): Step teardown_resource_global_gce_worker_pool535: Resource worker_pool_resource failed to shut down

我的 Dataflow 作业的工作池无法关闭,但是当我检查 VM 资源时没有 VM 运行。

自启用自动缩放以来,我们才开始收到此错误。

启用自动缩放后,此错误连续出现3次:

在启用自动缩放之前,我们从未见过此错误,例如:

Dataflow 服务 returns 在无法确定机器是否已成功关闭时出现此错误。例如,如果关闭请求 returns 意外错误类型,则会报告失败,以便用户可以采取行动而不是因闲置机器而产生费用。

在这种情况下,服务在尝试调整工作池大小时达到了配额限制。要解决此问题,您可以将 --maxNumWorkers 设置为低于您的最大 Compute Engine 配额的值以防止这种情况发生。