在 Ray 任务中使用项目包

Using packages of the project inside a Ray Task

我有一个包含一些包文件夹的项目,每个文件夹都包含一个 class 功能定义(例如 DataProcess class)。并且在项目的根目录中有一个主脚本可以访问所有这些包文件夹。主脚本创建那些 classes 的实例。如果我将这些实例(例如 data_processor 对象)作为 Ray Tasks 的参数以便在 Ray Tasks 中使用它们的功能,这是否可以在集群设置上工作并且所有节点都可以看到 [=12 的方法=] 对象,还是我必须使用 Ray Runtime Environment 之类的东西并将所有这些包文件夹添加到每个节点? 提前致谢。

为此,您可以使用运行时环境的 working_dirpy_modules 字段:https://docs.ray.io/en/latest/handling-dependencies.html

这会自动将文件夹上传到集群上的所有节点,并适当设置 PYTHONPATH 以使包在任务中可导入。