Потеря сообщений при использовании Kafa Rest и Python - PullRequest
0 голосов
/ 19 декабря 2018

У меня есть приложение на Python, которое выполняет функцию на основе выражения cron.Функция должна получать сообщения из кластера Kafka по определенной теме, используя компонент Kafka Rest, обрабатывать само сообщение и возвращать.Я ожидал, что при каждом вызове функции будут использоваться все сообщения, созданные в прошлый раз, когда она была вызвана, но иногда некоторые сообщения отсутствовали.Иногда все работает.

Я настроил потребителя с помощью документа из проекта kafka rest, установив auto.offset.reset до самое раннее .Создание и подписка потребителя происходит при запуске приложения и не более, при этом оно продолжает извлекать новые записи каждый раз, когда функция вызывается выражением CRON.

Идеи?

FB

...