Кафка - как установить тайм-аут для потребителя, который потребляет много времени? - PullRequest
0 голосов
/ 17 апреля 2019

У меня есть атмосфера кафки, где через некоторое время убивают потребителя. В поисках информации об этой проблеме я обнаружил эту проблему github: https://github.com/confluentinc/kafka-rest/issues/211

Я внес изменение в конфигурацию в соответствии с этой проблемой, установив KAFKA_REST_CONSUMER_INSTANCE_TIMEOUT_MS = 90000000, которая не работала, Потребитель продолжает умирать через некоторое время.

Любопытно, что я могу видеть задания, которые есть у группы потребителей и потребителей. но когда я пытаюсь использовать какую-то тему, у меня появляется сообщение: во-первых, «HTTP 406 Not Acceptable», об ответе «accept» и «Consumer instance not found» после удаления заголовка типа «accept».

Вся эта проблема заставила меня задуматься о том, как лучше настроить окружение в соответствии с моими потребностями. Мне не нужно настраивать среду, которая будет передавать информацию, мне нужно публиковать некоторые сообщения в теме и использовать их один раз в день.

Должен ли я использовать длительный тайм-аут для потребителя? или приложение-потребитель должно создавать нового потребителя каждый раз, когда ему нужно использовать тему?

Мое окружение настроено с помощью Confluent Kafka 5.0.1.

...