Spark driver死了,执行者也死了吗?
Spark driver dies, does executors die too?
在 spark 2.x 中,如果驱动程序死亡,执行程序也会死亡吗?如果是,如果重新启动,整个作业是否会从检查点目录重新启动?
驱动程序是 Spark 应用程序中的单点故障。如果驱动程序死亡,所有其他链接的组件也将被丢弃。
在使用检查点确保可靠性(流式传输)的应用程序中,检查点可用于恢复状态。请参考:
- Spark Streaming Programming Guide - Checkpointing
- Structured Streaming Programming Guide - Recovering from Failures with Checkpointing
了解详情。
在 spark 2.x 中,如果驱动程序死亡,执行程序也会死亡吗?如果是,如果重新启动,整个作业是否会从检查点目录重新启动?
驱动程序是 Spark 应用程序中的单点故障。如果驱动程序死亡,所有其他链接的组件也将被丢弃。
在使用检查点确保可靠性(流式传输)的应用程序中,检查点可用于恢复状态。请参考:
- Spark Streaming Programming Guide - Checkpointing
- Structured Streaming Programming Guide - Recovering from Failures with Checkpointing
了解详情。