使用 apache spark 写入 google 计算实例

Write to google compute instance using apache spark

我有一个 4 节点的 hadoop 集群,上面安装了 spark 版本 2.2.0。我想将文件从我的本地集群移动到 google 计算引擎实例。知道如何使用 apache spark 做到这一点吗?非常感谢任何帮助!提前谢谢你。

有不同的选项可用于将文件传输到 Compute Engine 实例 [1]。

此视频 [2] 有助于了解将 Spark 和 Hadoop 工作负载迁移到 GCP。

[1] https://cloud.google.com/compute/docs/instances/transfer-files

[2] https://www.youtube.com/watch?v=NfxvjWSgplU