Кафка + описание лидеров и репликации одного из лидеров не существует - PullRequest
0 голосов
/ 16 января 2019

у нас есть ( 3 машины kafka )

идентификаторы брокеров kafka - есть ( 101, 102, 103 )

версия ambari - 2.6.1

hadoop версия 2.6.5

29 компьютеров с датодами

3 журнальных машины (главные машины)

при выполнении следующей команды

kafka-topics.sh --zookeeper 10.231.23.45:2181 –describe

мы видим описание лидеров и репликации

но что здесь не так, мы видим только двух лидеров для каждой темы

в нашем случае название темы - MLK_PLW_QA , но такая же ситуация наблюдается по всем темам

Topic:MLK_PLW_QA    PartitionCount:100  ReplicationFactor:3 Configs:retention.bytes=9239504949
    Topic: MLK_PLW_QA   Partition: 0    Leader: 102 Replicas: 102,101,103   Isr: 101,102,103
    Topic: MLK_PLW_QA   Partition: 1    Leader: 102 Replicas: 103,102,101   Isr: 101,102
    Topic: MLK_PLW_QA   Partition: 2    Leader: 101 Replicas: 101,103,102   Isr: 101,102,103
    Topic: MLK_PLW_QA   Partition: 3    Leader: 102 Replicas: 102,103,101   Isr: 101,102,103
    Topic: MLK_PLW_QA   Partition: 4    Leader: 101 Replicas: 103,101,102   Isr: 101,102
    Topic: MLK_PLW_QA   Partition: 5    Leader: 101 Replicas: 101,102,103   Isr: 101,102,103
    Topic: MLK_PLW_QA   Partition: 6    Leader: 102 Replicas: 102,101,103   Isr: 101,102,103
    Topic: MLK_PLW_QA   Partition: 7    Leader: 102 Replicas: 103,102,101   Isr: 101,102

Я должен сказать, что эта ситуация появится не раньше пары дней, и мы видим всех лидеров 101, 102, 103 (из Кафки).-topics.sh --zookeeper 10.231.23.45:2181 –describe)

по каким причинам идентификатор брокера - 103 не отображается как лидер?

примечание - все службы брокеров kafka работают (мы видим это из ambari gui)

1 Ответ

0 голосов
/ 17 января 2019

Одна возможность, узел с идентификатором брокера 103 может быть аварийно остановлен / остановлен или некоторое время не функционировал. Таким образом, кластер сделал баланс и выбрал нового лидера из доступных узлов. Несмотря на то, что теперь брокер 103 жив, контроллер кластера не изменил руководство тем для оптимизации вычислений.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...