Поддерживает ли Apache Beam итеративные алгоритмы, так же как Apache Flink? - PullRequest
0 голосов
/ 18 мая 2018

Apache Flink поддерживает итеративные преобразования: https://ci.apache.org/projects/flink/flink-docs-release-1.4/dev/batch/iterations.html.

Это также поддерживается с использованием Apache Beam или мы можем достичь того же с помощью концепций Beam?

1 Ответ

0 голосов
/ 05 июня 2018

Я разместил этот вопрос в списке пользователей Apache Beam .

. Для этого есть открытый билет ( BEAM-106 ), но онеще не запущен.

Существует два решения:

  • Разверните цикл самостоятельно, что, конечно, ограничивает количество итераций.Будьте осторожны с количеством созданных вами преобразований.Это может быть ограничено бегуном.
  • Создайте несколько конвейеров и сохраните промежуточные данные.Это упрощает отладку, но требует дополнительных затрат на хранение и загрузку данных.
...