SnappyData - 配置流作业 spark 设置
SnappyData - configuring streaming job spark settings
我可以看到如何在创建流应用程序时配置 SparkConf (see here)
我假设我可以通过 SnappyStreamingContext 配置 SparkConf 以实现类似于流式应用程序的流式作业。假设我在流式作业中获得了 SparkConf 的句柄并修改了一些设置。这些设置是否仅适用于此流式传输作业,或者这是所有作业的全局配置更新?
谢谢!
是的,您可以通过 SnappyStreamingContext 为流作业配置 SparkConf,这与 spark 流配置相同。由于 SparkConf 是一个全局配置,它适用于流应用程序中的所有作业。我认为 Spark 不允许您在启动应用程序后更改 SparkConf。
我可以看到如何在创建流应用程序时配置 SparkConf (see here)
我假设我可以通过 SnappyStreamingContext 配置 SparkConf 以实现类似于流式应用程序的流式作业。假设我在流式作业中获得了 SparkConf 的句柄并修改了一些设置。这些设置是否仅适用于此流式传输作业,或者这是所有作业的全局配置更新?
谢谢!
是的,您可以通过 SnappyStreamingContext 为流作业配置 SparkConf,这与 spark 流配置相同。由于 SparkConf 是一个全局配置,它适用于流应用程序中的所有作业。我认为 Spark 不允许您在启动应用程序后更改 SparkConf。