Приложение Spark 2.4 выдает ошибку паркет - PullRequest
0 голосов
/ 18 марта 2019

Я получаю это исключение в приложении spark, отправленном с помощью spark-submit (2.4.0)

Исключительная ситуация класса пользователя: org.apache.spark.sql.AnalysisException: найдено несколько источников для паркета (org.apache.spark.sql.execution.datasources.parquet.ParquetFileFormat, org.apache.spark.sql.execution. datasources.parquet.DefaultSource), укажите полное имя класса.;

Моя заявка:

val sparkSession = SparkSession.builder()
      .appName(APP_NAME)
      .config("spark.sql.warehouse.dir", warehouseLocation)
      .enableHiveSupport()
      .getOrCreate()
sparkSession.sql(query)

Я не могу понять, откуда этот дубликат источника для паркета:

Вот моя искра-отправка:

spark-submit-2.4.0 - мастер пряжи-кластер \ --files = "/ etc / hive / hive-site.xml" \ --driver-класс-путь = "/ и т.д. / Hadoop /: / USR / Библиотека / искровые пакеты / spark2.4.0 / банки / : / USR / Библиотека / искровые пакеты / spark2.4.0 / Библиотека / искра -assembly.jar: / USR / Библиотека / улей / Библиотека /"

Есть предложения?

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...