Тестовый модуль Scala Spark Streaming с ошибкой бросков на основе искрового тестирования - PullRequest
Новая
       46

Тестовый модуль Scala Spark Streaming с ошибкой бросков на основе искрового тестирования

0 голосов
/ 18 октября 2018

Я пытался запустить модульное тестирование своего кода потоковой передачи с использованием spark-testing-base .И у меня возникают проблемы с запуском их примеров-кодов .

Вот фрагмент кода, который я скопировал

import com.holdenkarau.spark.testing.SharedSparkContext import org.scalatest.FunSuite 

class SampleTest extends FunSuite with SharedSparkContext {
  test("test initializing spark context") {
    val list = List(1, 2, 3, 4)
    val rdd = sc.parallelize(list)

    assert(rdd.count === list.length)
  }
}

А вот и трассировка стека ошибок. 

18/10/19 02:08:01 WARN NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable

An exception or error caused a run to abort. 
java.lang.ExceptionInInitializerError
    at org.apache.spark.SparkContext.withScope(SparkContext.scala:701)
    at org.apache.spark.SparkContext.parallelize(SparkContext.scala:718)
    at com.myproject.SampleTest$$anonfun$1.apply(DStreamTransformSpec.scala:11)
    at com.myproject.analytic.SampleTest$$anonfun$1.apply(DStreamTransformSpec.scala:9)
    at org.scalatest.OutcomeOf$class.outcomeOf(OutcomeOf.scala:85)
    at org.scalatest.OutcomeOf$.outcomeOf(OutcomeOf.scala:104)

Я включаю мой build.sbt, не уверен, что это поможет. 

version := "0.1"

scalaVersion := "2.11.12"

libraryDependencies += "org.apache.spark" %% "spark-streaming" % "2.2.0"
libraryDependencies += "org.apache.bahir" %% "spark-streaming-pubsub" % "2.2.0"
libraryDependencies += "com.typesafe.play" %% "play-json" % "2.6.7"
libraryDependencies += "com.google.cloud" % "google-cloud-datastore" % "1.40.0"
// For test
libraryDependencies += "org.scalactic" %% "scalactic" % "3.0.5"
libraryDependencies += "org.scalatest" %% "scalatest" % "3.0.5" % "test"
libraryDependencies += "com.holdenkarau" %% "spark-testing-base" % "2.2.0_0.10.0" % "test"

fork in Test := true
javaOptions ++= Seq("-Xms512M", "-Xmx2048M", "-XX:MaxPermSize=2048M", "-XX:+CMSClassUnloadingEnabled")

assemblyMergeStrategy in assembly := {
  case PathList("META-INF", xs @ _*) => MergeStrategy.discard
  case x => MergeStrategy.first
}

assemblyShadeRules in assembly := Seq(
  ShadeRule.rename("com.google.common.**" -> "repackaged.com.google.common.@1").inAll,
  ShadeRule.rename("com.google.protobuf.**" -> "repackaged.com.google.protobuf.@1").inAll
)

И есть ли другие инструменты, которые рекомендуются для тестирования с DStream?

1 Ответ

0 голосов
/ 18 октября 2018

Возможно, вы могли забыть?Я не вижу этого в build.sbt 

parallelExecution in Test := false
...