Переименуйте пробел в имени столбца в файле Parquet, используя spark sql - PullRequest
0 голосов
/ 16 сентября 2018

Я хочу показать содержимое файла паркета с помощью Spark Sql, но поскольку имена столбцов в файле паркета содержат пробел, я получаю сообщение об ошибке - Имя атрибута «Имя» содержит недопустимые символы среди «,;{} () \ п \ т =».Пожалуйста, используйте псевдоним, чтобы переименовать его.;

Я написал код ниже -

val r1 = spark.read.parquet("filepath")
val r2 = r1.toDF()
r2.select(r2("First Name").alias("FirstName")).show()

, но все еще получаю ту же ошибку

1 Ответ

0 голосов
/ 28 апреля 2019

Попробуйте сначала переименовать столбец, а не создавать псевдонимы:

r2 = r2.withColumnRenamed("First Name", "FirstName")
r2.show()
...