将 SequenceFile 转换为 DataFrame

Question

我有一个 SequenceFile，我想使用 Pyspark 将其转换为 DataFrame。

为此，我使用以下代码：

seq_file = sc.sequenceFile("products_sequencefile")
df = prod_seq.map(lambda a: str(a).split(",")).map(lambda a: (a[0],a[1],a[2],a[3],a[4],a[5],a[6])).toDF()

但是，它给了我一些带有 'u:

的值的输出

+--------+-------+---+--------------------+---+------+--------------------+
|      _1|     _2| _3|                  _4| _5|    _6|                  _7|
+--------+-------+---+--------------------+---+------+--------------------+
|(u'1009'| u'1009| 45|Diamond Fear No E...|   |599.99|http://images.acm...|

我的做法是否正确？

Answer 1

试试直接使用toDF？

df = sc.sequenceFile("products_sequencefile").toDF('key', 'value')
ncols = 6    # set the ncols here as appropriate
df = df.select(
    'key',
    *[F.split(F.col('value'), ',')[i] for i in range(ncols)]
)

将 SequenceFile 转换为 DataFrame

Convert SequenceFile as DataFrame

sequencefile

apache-spark

pyspark