Использование Kafka: есть ли способ агрегировать данные от нескольких производителей по ключам? - PullRequest
0 голосов
/ 14 июня 2019

Имея дело с большим объемом записей в Kafka, записи разбиваются на разные каналы для параллельных асинхронных операций, затем мне нужно объединить результаты с каждого канала.Я хочу вытащить все данные из этих проверок в одно приложение, как только все результаты будут доступны для данного ключа.

Я новичок в Kafka, но я рассматривал Ktables и транзакции как инструменты для организации объединения данных.Если у меня есть один выходной поток, в который отправляются все производители, как можно уведомить мое нисходящее приложение и собрать данные, когда доступны все результаты для данного ключа.

Нисходящее приложение уведомляется, когда следующие результатыдоступны:

| Key | Output1 | Output2 | Output3 | | 45678 | True | False | True |

Есть ли хороший встроенный способ сделать это с Kafka?

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...