заменить один столбец значения другим Spark Java - PullRequest
Новая
       8

заменить один столбец значения другим Spark Java

0 голосов
/ 14 февраля 2020

У меня есть фрейм данных df1 формата 

+------+------+------+
| Col1 | Col2 | Col3 |
+------+------+------+
| A    | z    | m    |
| B    | w    | n    |
| C    | x    | o    |
| A    | z    | n    |
| A    | p    | o    |
+------+------+------+

и другой фрейм данных df2 формата 

+------+------+
| Col1 | Col2 |
+------+------+
| 0-A  | 0-z  |
| 1-B  | 3-w  |
| 2-C  | 1-x  |
|      | 2-P  |
+------+------+-

Я пытаюсь заменить значения в Col1 и Col2 из df1 на значения из df2 с использованием Spark Java.

Конечный кадр данных df3 должен выглядеть следующим образом. 

+------+------+------+
| Col1 | Col2 | Col3 |
+------+------+------+
| 0-A  | 0-z  | m    |
| 1-B  | 3-w  | n    |
| 2-C  | 1-x  | o    |
| 0-A  | 0-z  | n    | 
| 0-A  | 2-p  | o    |
+------+------+------+

Я пытаюсь заменить все значения в column1 и column2 в df1 значениями из col1 и col2 из df2. В любом случае, я могу добиться этого в синтаксисе данных Spark Java.?

Первоначальная идея, которая у меня возникла, заключалась в следующем: 

String pattern1="\\p{L}+(?: \\p{L}+)*$";

df1=df1.join(df2, df1.col("col1").equalTo(regexp_extract(df2.col("col1"),pattern1,1)),"left-semi");

1 Ответ

1 голос
/ 14 февраля 2020

Замените вашу последнюю join операцию на соединение ниже. 

df1.alias("x").join(df2.alias("y").select(col("y.Col1").alias("newCol1")), col("x.Col1") === regexp_extract(col("newCol1"),"\\p{L}+(?: \\p{L}+)*$",0), "left")
              .withColumn("Col1", col("newCol1"))
              .join(df2.alias("z").select(col("z.Col2").alias("newCol2")), col("x.Col2") === regexp_extract(col("newCol2"),"\\p{L}+(?: \\p{L}+)*$",0), "left")
              .withColumn("Col2", col("newCol2"))
              .drop("newCol1", "newCol2")
              .show(false)

+----+----+----+
|Col1|Col2|Col3|
+----+----+----+
|2-C |1-x |o   |
|0-A |0-z |m   |
|0-A |0-z |n   |
|0-A |2-p |o   |
|1-B |3-w |n   |
+----+----+----+
...