NoSuchMethodException: scala.tools.nsc.interpreter.ILoop.scala при запуске кода pyspark zepplin - PullRequest
Новая
       32

NoSuchMethodException: scala.tools.nsc.interpreter.ILoop.scala при запуске кода pyspark zepplin

0 голосов
/ 19 декабря 2018

Я пытаюсь запустить ячейку pyspark в zeppelin, но получаю исключение NoSuchMethodException для scala.tools.nsc.interpreter.ILoop.scala

код ячейки: 

%pyspark

print("hello")

Ошибка:

java.lang.NoSuchMethodException: scala.tools.nsc.interpreter.ILoop.scala$tools$nsc$interpreter$ILoop$$loopPostInit()
    at java.lang.Class.getMethod(Class.java:1786)
    at org.apache.zeppelin.spark.BaseSparkScalaInterpreter.callMethod(BaseSparkScalaInterpreter.scala:268)
    at org.apache.zeppelin.spark.BaseSparkScalaInterpreter.callMethod(BaseSparkScalaInterpreter.scala:262)
    at org.apache.zeppelin.spark.SparkScala211Interpreter.open(SparkScala211Interpreter.scala:84)
    at org.apache.zeppelin.spark.NewSparkInterpreter.open(NewSparkInterpreter.java:102)
    at org.apache.zeppelin.spark.SparkInterpreter.open(SparkInterpreter.java:62)
    at org.apache.zeppelin.interpreter.LazyOpenInterpreter.open(LazyOpenInterpreter.java:69)
    at org.apache.zeppelin.spark.PySparkInterpreter.getSparkInterpreter(PySparkInterpreter.java:664)
    at org.apache.zeppelin.spark.PySparkInterpreter.createGatewayServerAndStartScript(PySparkInterpreter.java:260)
    at org.apache.zeppelin.spark.PySparkInterpreter.open(PySparkInterpreter.java:194)
    at org.apache.zeppelin.interpreter.LazyOpenInterpreter.open(LazyOpenInterpreter.java:69)
    at org.apache.zeppelin.interpreter.remote.RemoteInterpreterServer$InterpretJob.jobRun(RemoteInterpreterServer.java:617)
    at org.apache.zeppelin.scheduler.Job.run(Job.java:188)
    at org.apache.zeppelin.scheduler.FIFOScheduler$1.run(FIFOScheduler.java:140)
    at java.util.concurrent.Executors$RunnableAdapter.call(Executors.java:511)
    at java.util.concurrent.FutureTask.run(FutureTask.java:266)
    at java.util.concurrent.ScheduledThreadPoolExecutor$ScheduledFutureTask.access$201(ScheduledThreadPoolExecutor.java:180)
    at java.util.concurrent.ScheduledThreadPoolExecutor$ScheduledFutureTask.run(ScheduledThreadPoolExecutor.java:293)
    at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1149)
    at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:624)
    at java.lang.Thread.run(Thread.java:748)

версия zeppelin: 0.8.0

версия spark: 2.4.0

версия scala: 2.11.12

Ответы [ 2 ]

0 голосов
/ 04 февраля 2019

проблема описана в [ZEPPELIN-3810] Поддержка Spark 2.4 , и выпуск zeppelin 0.8.1 устранил проблему.

0 голосов
/ 27 декабря 2018

Что-то есть в версии spark с zeppelin, у меня была такая же ошибка, я просто пытался изменить версию spark на 2.3.2 и работать.

...