Я обновил одного из наших потребителей C #, и он (казалось) случайно входил в цикл неудачных проверок сердцебиения и перебалансировал в течение нескольких часов за раз до окончательной стабилизации.
У нас есть система с примерно 20разных потребителей по дюжине тем, и все они стабильно работали в течение нескольких месяцев.Мы не изменили session.timeout.ms или heartbeat.interval.ms по умолчанию ни для одного из наших потребителей.Что я недавно изменил, так это то, что делает один из потребителей.Раньше он обновлял некоторые объекты эластичного поиска, но теперь он запрашивает базу данных MSSQL, а затем обновляет эластичный поиск.Поэтому мне интересно, потребляет ли потребитель больше времени, чем раньше, и вызывает проблемы.Но если сердцебиение само по себе, это не должно иметь значения, верно?У нас есть один экземпляр каждого потребителя и только один раздел.Какая другая информация о конфигурации поможет вам узнать?
Я не знаю, какой код показывать, чтобы это можно было воспроизвести.Если кто-то хочет что-то увидеть, пожалуйста, дайте мне знать.
Мы получаем эту ошибку каждые 8-9 минут.В прошлый раз, когда это случилось, он делал это чуть больше 4 часов подряд.Вот два раунда ошибок:
[2019-09-24 06:05:00,832] INFO [GroupCoordinator 0]: Member rdkafka-5e17a7b1-fb41-4249-887a-1e2a0599f2d7 in group TV.Next.LoadScanElasticSearchConsumer has failed, removing it from the group (kafka.coordinator.group.GroupCoordinator)
[2019-09-24 06:05:00,832] INFO [GroupCoordinator 0]: Preparing to rebalance group TV.Next.LoadScanElasticSearchConsumer in state PreparingRebalance with old generation 773 (__consumer_offsets-41) (reason: removing member rdkafka-5e17a7b1-fb41-4249-887a-1e2a0599f2d7 on heartbeat expiration) (kafka.coordinator.group.GroupCoordinator)
[2019-09-24 06:05:00,832] INFO [GroupCoordinator 0]: Group TV.Next.LoadScanElasticSearchConsumer with generation 774 is now empty (__consumer_offsets-41) (kafka.coordinator.group.GroupCoordinator)
[2019-09-24 06:05:31,098] INFO [GroupCoordinator 0]: Preparing to rebalance group TV.Next.LoadScanElasticSearchConsumer in state PreparingRebalance with old generation 774 (__consumer_offsets-41) (reason: Adding new member rdkafka-ee8a935c-384d-4e3b-93ad-85d208790d22 with group instanceid None) (kafka.coordinator.group.GroupCoordinator)
[2019-09-24 06:05:31,113] INFO [GroupCoordinator 0]: Stabilized group TV.Next.LoadScanElasticSearchConsumer generation 775 (__consumer_offsets-41) (kafka.coordinator.group.GroupCoordinator)
[2019-09-24 06:05:31,129] INFO [GroupCoordinator 0]: Assignment received from leader for group TV.Next.LoadScanElasticSearchConsumer for generation 775 (kafka.coordinator.group.GroupCoordinator)
[2019-09-24 06:08:35,650] INFO [GroupMetadataManager brokerId=0] Removed 0 expired offsets in 0 milliseconds. (kafka.coordinator.group.GroupMetadataManager)
[2019-09-24 06:13:48,132] INFO [GroupCoordinator 0]: Member rdkafka-ee8a935c-384d-4e3b-93ad-85d208790d22 in group TV.Next.LoadScanElasticSearchConsumer has failed, removing it from the group (kafka.coordinator.group.GroupCoordinator)
[2019-09-24 06:13:48,132] INFO [GroupCoordinator 0]: Preparing to rebalance group TV.Next.LoadScanElasticSearchConsumer in state PreparingRebalance with old generation 775 (__consumer_offsets-41) (reason: removing member rdkafka-ee8a935c-384d-4e3b-93ad-85d208790d22 on heartbeat expiration) (kafka.coordinator.group.GroupCoordinator)
[2019-09-24 06:13:48,132] INFO [GroupCoordinator 0]: Group TV.Next.LoadScanElasticSearchConsumer with generation 776 is now empty (__consumer_offsets-41) (kafka.coordinator.group.GroupCoordinator)
[2019-09-24 06:14:19,647] INFO [GroupCoordinator 0]: Preparing to rebalance group TV.Next.LoadScanElasticSearchConsumer in state PreparingRebalance with old generation 776 (__consumer_offsets-41) (reason: Adding new member rdkafka-5ddb9247-68f0-415d-a702-beca62c2aa2b with group instanceid None) (kafka.coordinator.group.GroupCoordinator)
[2019-09-24 06:14:19,663] INFO [GroupCoordinator 0]: Stabilized group TV.Next.LoadScanElasticSearchConsumer generation 777 (__consumer_offsets-41) (kafka.coordinator.group.GroupCoordinator)
[2019-09-24 06:14:19,679] INFO [GroupCoordinator 0]: Assignment received from leader for group TV.Next.LoadScanElasticSearchConsumer for generation 777 (kafka.coordinator.group.GroupCoordinator)
[2019-09-24 06:18:35,646] INFO [GroupMetadataManager brokerId=0] Removed 0 expired offsets in 0 milliseconds. (kafka.coordinator.group.GroupMetadataManager)