如何更改 LabeledPoint RDD 中的标签

Question

我有大量数据作为 LabeledPoint RDD 分配给七个不同的整数标签。

 [LabeledPoint(5.0,[2590.0,56.0,2.0,212.0,-6.0,390.0,220.0,235.0,151.0,6225.0]),
 LabeledPoint(2.0, [2804.0,139.0,9.0,268.0,65.0,3180.0,234.0,238.0,135.0,6121.0])....

我需要将此问题二进制化以通过 MLLib 中的 BoostedGradientTrees，因此我希望标签为 2.0 的所有特征为 1.0，否则为 0.0。我是使用 RDD 的新手，我终其一生都无法弄清楚如何将没有运行的标签更改为 OutOfMemory 错误。我尝试了几种不同的方法，我认为这样的方法最简单：

def to_binary(Data):
    Datazero = Data.filter(lambda x: (x != 2.0, y))
    Data = Data.subtract(Datazero)
    Datazero = Datazero.map(lambda x:(0.0,y))
    Data = Data.map(lambda x: (1.0, y))
    Data = Datazero.union(Data)
    
    return Data

但显然这 returns 是一个错误，因为我不知道如何使用 LabeledPoint 对象。

Answer 1

不需要定义辅助函数，也不需要分别过滤这两种情况。函数式 lambda 环境支持内部 if-else 环境：

Data = Data.map(lambda point : LabeledPoint(1, point.features) if point.label == 2.0 \
                         else LabeledPoint(0, point.features))

如何更改 LabeledPoint RDD 中的标签

How to change the label in a LabeledPoint RDD

python

dataframe

apache-spark

rdd

key-value