Я пытаюсь создать общий RDD с помощью сервера заданий Spark, но получаю значение namedRDDs равно нулю! . Ниже приведены спецификации моего проекта
- spark-core_2.10- версия -> 1.5.2
- spark-sql_2.10 - версия -> 1.5.2
- job-server-api_2.10 - версия -> 0.6.1
ниже приведен мой фрагмент кода.
объект SparkJobServerSharedRDD расширяет SparkJob с помощью NamedRddSupport {
переопределить def runJob (sc: SparkContext, config: Config): Any = {
val df = \ df creation
namedRdds.update ("result", df.toJSON)}}