Cloudera Spark2 安装

Cloudera Spark2 Installation

我正在尝试按照 cloudera 安装此组件的说明在我的 cloudera 集群(评估版)中安装 Spark2。我下载了 CSD,安装了它,并使用包裹下载了组件,分发了它,但是当我尝试激活它时,我收到了这条消息:

CDH (5.8 and higher) parcel required for SPARK2 (2.2.0.cloudera1-1.cdh5.12.0.p0.142354) is not available.

这是集群的信息:

Version: Cloudera Enterprise Data Hub Edition Trial 5.12.1 (#6 built by jenkins on 20170818-0807 git: 9bdee611802535491d400e03c98ef694a2c77d0a)

Java VM Name: Java HotSpot(TM) 64-Bit Server VM

Java VM Vendor: Oracle Corporation

Java Version: 1.7.0_67

惩教署

SPARK2_ON_YARN-2.2.0.cloudera1.jar

包裹

http://archive.cloudera.com/spark2/parcels/2.2.0.cloudera1/

我想这可能是因为我的 CDH 版本 (5.12.1) 和最后一个 spark2 包裹的版本 (cdh5.12.0) 但我没有找到任何其他 cdh5.12.1 的包裹和我的下一个问题是:对于 cdh5.13.0,哪个是 spark2 包裹?

错误消息具有误导性。真正的问题是您的集群在 Java 1.7 上 运行。 Spark 2.2 仅在 Java 1.8 上受支持。在您的集群上升级 Java,您应该能够安装 Spark 2.2 parcel。

终于解决了。问题是我需要更新 de cdh 核心,更新后,spark 2 工作正常。