Я получаю это исключение в приложении spark, отправленном с помощью spark-submit (2.4.0)
Исключительная ситуация класса пользователя: org.apache.spark.sql.AnalysisException: найдено несколько источников для паркета (org.apache.spark.sql.execution.datasources.parquet.ParquetFileFormat, org.apache.spark.sql.execution. datasources.parquet.DefaultSource), укажите полное имя класса.;
Моя заявка:
val sparkSession = SparkSession.builder()
.appName(APP_NAME)
.config("spark.sql.warehouse.dir", warehouseLocation)
.enableHiveSupport()
.getOrCreate()
sparkSession.sql(query)
Я не могу понять, откуда этот дубликат источника для паркета:
Вот моя искра-отправка:
spark-submit-2.4.0 - мастер пряжи-кластер \
--files = "/ etc / hive / hive-site.xml" \
--driver-класс-путь = "/ и т.д. / Hadoop /: / USR / Библиотека / искровые пакеты / spark2.4.0 / банки / : / USR / Библиотека / искровые пакеты / spark2.4.0 / Библиотека / искра -assembly.jar: / USR / Библиотека / улей / Библиотека /"
Есть предложения?