Как распараллелить аккумулятор и сохранить его как текстовый файл в Spark? - PullRequest
0 голосов
/ 05 марта 2019

У меня есть шаблон Аккумулятор, который я хочу разбирать, как мне это сделать?

val patternsAcc = sc.collectionAccumulator[List[Patern]]("Paterns Accumulator")
...
...
//can't parallelize
val result = sc.parallelize(patternsAcc.value)
//save to file

1 Ответ

0 голосов
/ 05 марта 2019

Тип patternsAcc.value равен java.util.List[List[Patern]] и не принимается методом sc.parrallelize().

Просто import scala.collection.JavaConversions._, и ваш код должен работать из-за неявных преобразований scala.

...