Какова цель OutputMode в flatMapGroupsWithState?Как / где это используется? - PullRequest
3 голосов
/ 07 июля 2019

Я изучаю KeyValueGroupedDataset.flatMapGroupsWithState для произвольной агрегации с отслеживанием состояния в Spark Structured Streaming.

Сигнатура оператора KeyValueGroupedDataset.flatMapGroupsWithState выглядит следующим образом:

flatMapGroupsWithState[S: Encoder, U: Encoder](
  outputMode: OutputMode,
  timeoutConf: GroupStateTimeout)(
  func: (K, Iterator[V], GroupState[S]) => Iterator[U]): Dataset[U]

Какова цельаргумент OutputMode?

При просмотре исходного кода ( FlatMapGroupsWithStateExec , который является базовым физическим оператором), я не смог найти место, где будет использоваться OutputMode.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...