Действие искры застряло с EOFException - PullRequest
0 голосов
/ 06 марта 2019

Я пытаюсь выполнить действие с помощью Spark с зависанием.Соответствующий исполнитель выдает следующее исключение:

 2019-03-06 11:18:16 ERROR Inbox:91 - Ignoring error
java.io.EOFException
at java.io.DataInputStream.readFully(DataInputStream.java:197)
at java.io.DataInputStream.readUTF(DataInputStream.java:609)
at java.io.DataInputStream.readUTF(DataInputStream.java:564)
at org.apache.spark.scheduler.TaskDescription$$anonfun$decode$1.apply(TaskDescription.scala:131)
at org.apache.spark.scheduler.TaskDescription$$anonfun$decode$1.apply(TaskDescription.scala:130)
at scala.collection.immutable.Range.foreach(Range.scala:160)
at org.apache.spark.scheduler.TaskDescription$.decode(TaskDescription.scala:130)
at org.apache.spark.executor.CoarseGrainedExecutorBackend$$anonfun$receive$1.applyOrElse(CoarseGrainedExecutorBackend.scala:96)
at org.apache.spark.rpc.netty.Inbox$$anonfun$process$1.apply$mcV$sp(Inbox.scala:117)
at org.apache.spark.rpc.netty.Inbox.safelyCall(Inbox.scala:205)
at org.apache.spark.rpc.netty.Inbox.process(Inbox.scala:101)
at org.apache.spark.rpc.netty.Dispatcher$MessageLoop.run(Dispatcher.scala:221)
at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1149)
at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:624)
at java.lang.Thread.run(Thread.java:748)

Моя среда представляет собой автономный кластер Spark в Docker с Zeppelin в качестве драйвера Spark.Подключение к кластеру работает нормально.

Мое действие Spark - это простой вывод базы данных, читаемый как:

spark.read.jdbc(jdbcString, "table", props).show()

Я могу напечатать схему таблицы, поэтому не должно быть проблем с соединением.

Ответы [ 2 ]

0 голосов
/ 13 июня 2019

Наша машина с драйверами имела другую версию Java по сравнению с автономным кластером Spark.Когда мы попробовали с другой машиной с той же версией Java, это сработало.

0 голосов
/ 19 марта 2019

Пожалуйста, проверьте вашу среду JAVA, Python, Pysaprk должны быть одинаковыми в MASTER и WORKER, а также путь, версия тоже одинаковая

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...