Может ли параметр ReduceByKey изменить первый аргумент? - PullRequest
0 голосов
/ 10 июня 2018

PairRDDFunctions.aggregateByKey скалярные состояния

Чтобы избежать выделения памяти, обеим функциям разрешено изменять и возвращать свой первый аргумент вместо создания нового U.

Важно воспользоваться этим, когда выделение памяти становится блокирующим.

Однако PairRDDFunctions.reduceByKey scaladoc не содержит того же предложения.

Оба метода реализованы в терминах общего базового метода (combineByKeyWithClassTag), поэтому возможность использования изменяемых структур также должна сохраняться.Но aggregateByKey выполняет некоторую предварительную «очистку» предоставленной функции, которая может иметь или не иметь значение.(self.context.clean(seqOp)).

Можно ли передать значение функции для seqOp, которая изменяет свой первый параметр, на reduceByKey?

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...