MapPartition в Spark Java - PullRequest
       2

MapPartition в Spark Java

0 голосов
/ 19 сентября 2019

У меня есть JavaRDD.Я пытаюсь сделать mapPartition и передать каждую строку для каждого раздела в функцию, которая принимает String в качестве параметра.

rdd.mapPartitions((Iterator<String> iter) -> {
            Dummy dummy = new Dummy();
            Iterable<String> iterable = () -> iter;
            return StreamSupport.stream(iterable.spliterator(), false)
                    .map(s -> dummy.method(s)) // or whatever transformation
                    .iterator();
        });

Но я не могу вызвать функцию класса (dummy.method) внутри карты,Как мне решить эту проблему?

1 Ответ

1 голос
/ 20 сентября 2019

Перемещение Dummy dummy = new Dummy(); внутри карты для потока.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...