Разбить массив строк в DataFrame на свои собственные столбцы - PullRequest
Новая
       55

Разбить массив строк в DataFrame на свои собственные столбцы

1 голос
/ 20 октября 2019

У меня есть такой фрейм данных:

df.show () 

+-----+ 
|col1 | 
+-----+ 
|[a,b]| 
|[c,d]|   
+-----+

Как преобразовать его в фрейм данных, как показано ниже 

+----+----+ 
|col1|col2| 
+----+----+ 
|   a|   b| 
|   c|   d|  
+----+----+

1 Ответ

2 голосов
/ 20 октября 2019

Это зависит от типа вашего «списка»:

Если он имеет тип ArrayType(): 

df = spark.createDataFrame(spark.sparkContext.parallelize([['a', ["a","b","c"]], ['b', ["d","e","f"]]]), ["key", "col"])
df.printSchema()
df.show()
root
 |-- key: string (nullable = true)
 |-- col: array (nullable = true)
 |    |-- element: string (containsNull = true)
+---+---------+
|key|      col|
+---+---------+
|  a|[a, b, c]|
|  b|[d, e, f]|
+---+---------+
  • , вы можете получить доступ к значениям, как если быPython, используя []: 
df.select("key", df.col[0], df.col[1], df.col[2]).show()
+---+------+------+------+
|key|col[0]|col[1]|col[2]|
+---+------+------+------+
|  a|     a|     b|     c|
|  b|     d|     e|     f|
+---+------+------+------+
  • Если он имеет тип StructType(): (возможно, вы построили свой фрейм данных, читая JSON) 
df2 = df.select("key", F.struct(
        df.col[0].alias("col1"), 
        df.col[1].alias("col2"), 
        df.col[2].alias("col3")
    ).alias("col"))
df2.printSchema()
df2.show()

root
 |-- key: string (nullable = true)
 |-- col: struct (nullable = false)
 |    |-- col1: string (nullable = true)
 |    |-- col2: string (nullable = true)
 |    |-- col3: string (nullable = true)
+---+---------+
|key|      col|
+---+---------+
|  a|[a, b, c]|
|  b|[d, e, f]|
+---+---------+
  • Вы можете напрямую «разбить» столбец, используя *: 
df2.select('key', 'col.*').show()

+---+----+----+----+
|key|col1|col2|col3|
+---+----+----+----+
|  a|   a|   b|   c|
|  b|   d|   e|   f|
+---+----+----+----+
...