在 AWS EMR 中获取 sparkdid.cassandra.connection.config.cloud.path 的正确路径

Get correct path for sparkdid.cassandra.connection.config.cloud.path in AWS EMR

我检查了整个网络。但找不到解决方案。

我正在尝试使用 AWS EMR 中的 bundle 连接 astra cassandra,它能够下载 bundle 文件但无法加载它。

spark.conf.set("sparkdid.cassandra.connection.config.cloud.path", "secure-connect-app.zip")

这就是我给出路径的方式我知道这是错误的路径,因为它没有加载正确的配置返回连接被本地主机拒绝。

我不知道 EMR 中的正确路径是什么。

如果您查看 documentation,您会发现该文件可以指定为 S3 上文件的 URL,或者您可以在使用 spark-submit 提交时使用 —files 选项或spark-shell ,那么它将仅作为文件名提供,就像您正在做的那样