Мы обновили наш кластер Kafka (обновление до 2.3) несколько дней назад, и мы замечаем огромное количество следующих сообщений об ОШИБКАХ от одного из наших потребителей (kafka-console):
[2019-09-26 13:02:25,115] ERROR [Consumer clientId=consumer-1, groupId=console-consumer-96306] Offset commit failed on partition TOPICNAME at offset 18834877: The coordinator is loading and hence can't process requests. (org.apache.kafka.clients.consumer.internals.ConsumerCoordinator)
с последующим:
[2019-09-26 13:02:25,115] WARN [Consumer clientId=consumer-1, groupId=console-consumer-96306] Asynchronous auto-commit of offsets {TOPICNAME-4=OffsetAndMetadata{offset=18834877, metadata=''}, TOPICNAME-5=OffsetAndMetadata{offset=18825797, metadata=''}, TOPICNAME-6=OffsetAndMetadata{offset=18834407, metadata=''}, TOPICNAME-7=OffsetAndMetadata{offset=18839250, metadata=''}, TOPICNAME-8=OffsetAndMetadata{offset=18829253, metadata=''}, TOPICNAME-9=OffsetAndMetadata{offset=18831485, metadata=''}, TOPICNAME-10=OffsetAndMetadata{offset=18833260, metadata=''}, TOPICNAME-11=OffsetAndMetadata{offset=18827244, metadata=''}, TOPICNAME-0=OffsetAndMetadata{offset=18835016, metadata=''}, TOPICNAME-1=OffsetAndMetadata{offset=18837478, metadata=''}, TOPICNAME-2=OffsetAndMetadata{offset=18832425, metadata=''}, TOPICNAME-3=OffsetAndMetadata{offset=18826491, metadata=''}} failed: Offset commit failed with a retriable exception. You should retry committing offsets. The underlying error was: The coordinator is loading and hence can't process requests.
После прочтения некоторого кода Кафки эти ошибки связаны с тем, что координатор группы загружал некоторый сегмент __consumer_offsets в память, и во время этоговремя, не удалось запросить смещения запросов на принятие.
Для меня это не вредно и нормально при перезапуске брокера. Должны ли мы беспокоиться? Есть ли стандартный способ справиться с этой ситуацией в нашем коде?
В то же время мы даже не смогли сделать ./kafka-consumer-group.sh ... --list (то же сообщение об ошибке: координатор загружается), так что, опять же, любой может подтвердитьэто полное нормальное поведение?