Spark 2.3.0 SQL не может вставить данные в таблицу hive hbase - PullRequest
0 голосов
/ 04 июня 2018

Используйте Spark 2.3, интегрированный с кустом 2.2.0.бег от искры билайн.Попробуйте вставить данные в таблицу hive hbase (таблица hive с hbase в качестве хранилища).Вставить в улей родную таблицу в порядке.При вставке в таблицу hive hbase выдается следующее исключение:

ClassCastException: org.apache.hadoop.hive.hbase.HiveHBaseTableOutputFormat нельзя преобразовать в org.apache.hadoop.hive.ql.io.HiveOutputFormat

в org.apache.spark.scheduler.Task.run (Task.scala: 109) в org.apache.spark.executor.Executor $ TaskRunner.run (Executor.scala: 345) в Java.util.concurrent.ThreadPoolExecutor.runWorker (ThreadPoolExecutor.java:1149) в java.util.concurrent.ThreadPoolExecutor $ Worker.run (ThreadPoolExecutor.java:624) в java.lang.Thread.run (Thread.java: 7:48):by: java.lang.ClassCastException: org.apache.hadoop.hive.hbase.HiveHBaseTableOutputFormat не может быть преобразован в org.apache.hadoop.hive.ql.io.HiveOutputFormat в org.apache.spark.sql.hive.execution.HiveFile$$ anon $ 1.outputFormat $ lzycompute (HiveFileFormat.scala: 93) k не удалось выполнить при записи строк.в org.apache.spark.sql.execution.datasources.FileFormatWriter $ .org $ apache $ spark $ sql $ исполнительный $ источники данных $ FileFormatWriter $$ executeTask (FileFormatWriter.scala: 285) в org.apache.spark.sql.execution.datasources.FileFormatWriter $$ anonfun $ write $ 1.apply (FileFormatWriter.scala: 197) в org.apache.spark.sql.execution.datasources.FileFormatWriter $$ anonfun $ write $ 1.apply (FileFormatWriter.scala: 196) в орг.apache.spark.scheduler.ResultTask.runTask (ResultTask.scala: 87) в org.apache.spark.scheduler.Task.run (Task.scala: 109) в org.apache.spark.executor.Executor $ TaskRunner.run (Executor.scala: 345) в java.util.concurrent.ThreadPoolExecutor.runWorker (ThreadPoolExecutor.java:1149) в java.util.concurrent.ThreadPoolExecutor $ Worker.run (ThreadPoolExecutor.java:624g) в java.(Thread.java:748) Причина: java.lang.ClassCastException: org.apache.hadoop.hive.hbase.HiveHBaseTableOutputFormat нельзя преобразовать в org.apache.hadoop.hive.ql.io.HiveOutputFormat в org.apache.spark.sql.hive.execution.HiveFileFormat $$ anon $ 1.outputFormat $ lzycompute (HiveFileFormat.scala: 93)

1 Ответ

0 голосов
/ 05 июня 2018

Кажется, известная проблема улья.Есть несколько запросов на получение разрешения, но я еще не нашел фактического исправления.

https://issues.apache.org/jira/browse/SPARK-6628

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...