Как извлечь значение аккумулятора в драйвере? - PullRequest
0 голосов
/ 05 июня 2018

Как мой код упорядочен следующим образом:

//Accumulator initialized 
val count = new LongAccumulator
sparksession.sparkContext.register(count,"count accumulator")

// Streaming Transformation
val DF = fromKafkaDF.map{
  count.add(1)
  println(count.value)  // This value is one
  //some transformation
}.writeStream.outputMode("update").format("console").start()

//trying to access the value of accumulator from driver
println(count.value)  //this value is zero

Почему в драйвере значение аккумулятора равно нулю?У меня есть другая логика для работы на основе этого аккумулятора.Пожалуйста, предложите.

1 Ответ

0 голосов
/ 03 сентября 2018

Чтобы накопить любое значение в счетчике, вы должны выполнить действие и проверить, что аккумулятор не будет использоваться без каких-либо действий, пожалуйста, проверьте ссылку объяснение аккумулятора

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...