火花广播变量的大小有限制吗?

Is there any limit on size of a spark broadcast variable?

我想知道spark中广播变量的大小是否有限制,因为我需要广播一个大对象(6GB,以后可以更大)。 我在主页和本网站中进行了搜索,但没有找到可以回答我的问题的内容。 我在广播一个非常大的对象时会遇到问题吗?

限额JavaInteger.MAX_VALUE。也就是说大约 2,3 GB。 请查看 Spark Jira 以获取更多信息:https://issues.apache.org/jira/browse/SPARK-5739