Исключение в потоке "main" java.lang.NoSuchMethodError: scala.Predef $ .longArrayOps ([J) [J

Question

У меня есть простой объект Scala, который создает RDD, а затем собирает и распечатывает все элементы.

Я создал проект Maven на Eclipse и добавил библиотеку Scala 2.12.3. В pom.xml Iдобавили зависимость spark 2.4.3, как показано ниже:

<dependency>
    <groupId>org.apache.spark</groupId>
    <artifactId>spark-core_2.12</artifactId>
    <version>2.4.3</version>
</dependency>

Наконец, я создал JAR и затем пытаюсь выполнить spark-submit, но это не удается с

Exception in thread "main" java.lang.NoSuchMethodError: scala.Predef$.longArrayOps([J)[J
    at org.spark.learning.Demo$.main(Demo.scala:14)
    at org.spark.learning.Demo.main(Demo.scala)
    at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
    at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
    at java.lang.reflect.Method.invoke(Method.java:498)
    at org.apache.spark.deploy.JavaMainApplication.start(SparkApplication.scala:52)
    at org.apache.spark.deploy.SparkSubmit.org$apache$spark$deploy$SparkSubmit$$runMain(SparkSubmit.scala:849)
    at org.apache.spark.deploy.SparkSubmit.doRunMain$1(SparkSubmit.scala:167)
    at org.apache.spark.deploy.SparkSubmit.submit(SparkSubmit.scala:195)
    at org.apache.spark.deploy.SparkSubmit.doSubmit(SparkSubmit.scala:86)
    at org.apache.spark.deploy.SparkSubmit$$anon$2.doSubmit(SparkSubmit.scala:924)
    at org.apache.spark.deploy.SparkSubmit$.main(SparkSubmit.scala:933)
    at org.apache.spark.deploy.SparkSubmit.main(SparkSubmit.scala)

Похоже, виновник в моем scala-коде - r1.collect.foreach (println), где r1 - это rdd, созданный из диапазона (1,50)

И да, у меня есть Scala 2.12.3 и Spark 2.4.3на Eclipse, а также на моем терминале, поэтому несовместимость версий здесь не является проблемой.

Может кто-нибудь помочь?

Answer 1

это ясная проблема версии. ничто иное, даже если вы заявляете, что используете 2.12.x, похоже на то, что он указывает на старую версию scala, которая пытается очистить и собрать. проверьте зависимости в maven или sbt, которые вы когда-либо используете.

Также сделай Файл -> Структура проекта -> Глобальные библиотеки -> Удалить SDK -> Перестроить

если вы используете intellij, все внешние библиотеки в classpath будут перечислены, как показано на рисунке ниже ... в разделе внешних библиотек.

Один из способов найти зависимости - использование загрузчика классов ...

val  urls = urlsinclasspath(getClass.getClassLoader).foreach(println)


def urlsinclasspath(cl: ClassLoader): Array[java.net.URL] = cl match {
    case null => Array()
    case u: java.net.URLClassLoader => u.getURLs() ++ urlsinclasspath(cl.getParent)
    case _ => urlsinclasspath(cl.getParent)
  }

с помощью этого вы можете распечатать все jar-файлы, находящиеся в пути к классам проекта, который вы запускаете из intellij или в вашей программе драйвера, использующей кластер.