Flink 1.14.0 为特定任务管理器指定槽共享组
Specify slot sharing group for a specific task manager in Flink 1.14.0
我正在尝试Flink 1.14中的细粒度资源管理功能,希望它可以实现将某些操作员分配给某些TaskManager。按照 https://nightlies.apache.org/flink/flink-docs-release-1.14/docs/deployment/finegrained_resource/ 中的示例代码,我现在可以定义我想要的任务共享组(使用 setExternalResource 方法),但我没有看到任何选项来“分配”具有此功能的 TaskManager worker 实例“外部资源”。
所以对于这个问题。按照 1 中基于 GPU 的示例,我如何确保 Flink “知道”哪个任务管理器实际具有所需的 GPU?
在优秀的 flink 邮件列表的帮助下,我现在有了解决方案。基本上,根据 external resource documentation 向特定任务管理器的 flink-conf.yaml 添加行。对于名为 'example' 的资源,必须添加以下两行:
external-resources: example
external-resource.example.amount: 1
.. 将任务与任务共享组与添加的外部资源匹配:
.setExternalResource("example", 1.0)
我正在尝试Flink 1.14中的细粒度资源管理功能,希望它可以实现将某些操作员分配给某些TaskManager。按照 https://nightlies.apache.org/flink/flink-docs-release-1.14/docs/deployment/finegrained_resource/ 中的示例代码,我现在可以定义我想要的任务共享组(使用 setExternalResource 方法),但我没有看到任何选项来“分配”具有此功能的 TaskManager worker 实例“外部资源”。 所以对于这个问题。按照 1 中基于 GPU 的示例,我如何确保 Flink “知道”哪个任务管理器实际具有所需的 GPU?
在优秀的 flink 邮件列表的帮助下,我现在有了解决方案。基本上,根据 external resource documentation 向特定任务管理器的 flink-conf.yaml 添加行。对于名为 'example' 的资源,必须添加以下两行:
external-resources: example
external-resource.example.amount: 1
.. 将任务与任务共享组与添加的外部资源匹配:
.setExternalResource("example", 1.0)