apache-spark - 爆炸后只取第一个（或第 n 个）元素

Question

是否可以仅在 explode() 函数之后获取第一个元素？

+-----------------------------------------+
|dog                                      |
+-----------------------------------------+
|[[Max,Black],3]                          |
|[[Spot,White],2]                         |
|[[Michael,Yellow],1]                     |
+-----------------------------------------+

例如，在上述情况下，我们只想保留 [Max, Black]、[Spot, white] 和 [Michael,Yellow]。每个单元格中的第二个元素（3、2 和 1）实际上可以被丢弃。

谢谢！

Answer 1

假设您的架构看起来像这样：

root
 |-- dog: struct (nullable = false)
 |    |-- col1: struct (nullable = false)
 |    |    |-- col1: string (nullable = false)
 |    |    |-- col2: string (nullable = false)
 |    |-- col2: integer (nullable = false)

然后您可以执行以下操作：

test.withColumn("dog", $"dog".getField("col1"))

或者，如果您想保留两列，请执行以下操作：

test.select($"dog", $"dog".getField("col1") as "dog2")