如何在 slurm 管理的自动缩放集群上设置 Rstudio、sparklyR?
How can I setup Rstudio, sparklyR on an auto scale cluster managed by slurm?
我有一个由 slurm 管理的 aws HPC 自动缩放集群,我可以使用 sbatch 提交作业,但是我想在这个集群上使用 spraklyr,以便 slurm 根据 sparklyr 代码的工作量增加集群大小R 脚本。这可能吗?
嗨,阿米尔,你在这里使用 slurm 是有原因的吗? Sparklyr 与 Apache Spark 的集成更好,建议 运行 它通过 spark 集群。您可以关注此博客以了解使用 Amazon EMR 进行设置的步骤,它是 运行 AWS 上 Spark 集群的服务 - https://aws.amazon.com/blogs/big-data/running-sparklyr-rstudios-r-interface-to-spark-on-amazon-emr/
我有一个由 slurm 管理的 aws HPC 自动缩放集群,我可以使用 sbatch 提交作业,但是我想在这个集群上使用 spraklyr,以便 slurm 根据 sparklyr 代码的工作量增加集群大小R 脚本。这可能吗?
嗨,阿米尔,你在这里使用 slurm 是有原因的吗? Sparklyr 与 Apache Spark 的集成更好,建议 运行 它通过 spark 集群。您可以关注此博客以了解使用 Amazon EMR 进行设置的步骤,它是 运行 AWS 上 Spark 集群的服务 - https://aws.amazon.com/blogs/big-data/running-sparklyr-rstudios-r-interface-to-spark-on-amazon-emr/