无法使用 Amazon EMR 访问 Spark 主节点中的烧瓶

Can't reach flask in Spark master node using Amazon EMR

我想了解是否可以使用连接到 Amazon EMR 中实现的 Spark 主节点的 Flask 应用程序。目标是从 Web 应用程序调用 Flask 以检索火花输出。端口在 amazon EMR 集群的安全组中打开,但我无法从外部访问他的端口。

你怎么看?还有其他解决方案吗?

虽然完全可以在 EMR 上调用 Flask(或任何东西)运行,但根据您正在做的事情,您可能会发现 Apache Livy 很方便。好消息是 EMR 完全支持 Livy。您可以使用 Livy 提交作业并同步或异步检索结果。它让您休息 API 与 Spark 互动。