проверить перенос Кафки на разделы - PullRequest
0 голосов
/ 24 января 2019

Я хочу проверить сбалансированные темы, включая реплику и Isr

Я приведу несколько примеров неверно сбалансированных (master01 - сервер zookeper, и мы определили 3 копии)

В этом примере мы видим, что брокеры kafka отсутствуют в некоторых ISR

/usr/hdp/current/kafka-broker/bin/kafka-topics.sh  --describe --zookeeper  master01:2181 --topic mno.de.pola.trump  Topic:mno.de.pola.trump  PartitionCount:100  ReplicationFactor:3  Configs:  Topic:
mno.de.pola.trump  Partition: 0  Leader: 1017  Replicas: 1017,1018,1016   Isr: 1017,1018,1016  Topic:
mno.de.pola.trump  Partition: 1  Leader: 1018  Replicas: 1018,1016,1017   Isr: 1018,1017,1016  Topic:
mno.de.pola.trump  Partition: 2  Leader: 1016  Replicas: 1016,1017,1018   Isr: 1016,1018  Topic:
mno.de.pola.trump  Partition: 3  Leader: 1017  Replicas: 1017,1016,1018   Isr: 1017,1018,1016  Topic:
mno.de.pola.trump  Partition: 4  Leader: 1018  Replicas: 1018,1017,1016   Isr: 1018,1017,1016  Topic:
mno.de.pola.trump  Partition: 5  Leader: 1016  Replicas: 1016,1018,1017   Isr: 1016,1018,1017  Topic:
mno.de.pola.trump  Partition: 6  Leader: 1017  Replicas: 1017,1018,1016   Isr: 1017,1018

. В следующем примере мы видим, что Лидер в разделах больше, чем брокер 1017

/usr/hdp/current/kafka-broker/bin/kafka-topics.sh  --describe --zookeeper  master01:2181 --topic mno.de.pola.trump  Topic:mno.de.pola.trump   PartitionCount:100  ReplicationFactor:3  Configs:  Topic:
mno.de.pola.trump  Partition: 0  Leader: 1017  Replicas: 1017,1018,1016  Isr: 1017,1018,1016  Topic:
mno.de.pola.trump  Partition: 1  Leader: 1018  Replicas: 1018,1016,1017  Isr: 1018,1017,1016  Topic:
mno.de.pola.trump  Partition: 2  Leader: 1017  Replicas: 1016,1017,1018  Isr: 1016,1018.1017  Topic:
mno.de.pola.trump  Partition: 3  Leader: 1017  Replicas: 1017,1016,1018  Isr: 1017,1018,1016  Topic:
mno.de.pola.trump  Partition: 4  Leader: 1018  Replicas: 1018,1017,1016  Isr: 1018,1017,1016  Topic:
mno.de.pola.trump  Partition: 5  Leader: 1016  Replicas: 1016,1018,1017  Isr: 1016,1018,1017  Topic:
mno.de.pola.trump  Partition: 6  Leader: 1017  Replicas: 1017,1018,1016  Isr: 1017,1018,1016

В следующем примере мы видим, что в Реплике отсутствуют посредники

/usr/hdp/current/kafka-broker/bin/kafka-topics.sh  --describe --zookeeper  master01:2181 --topic mno.de.pola.trump  Topic:mno.de.pola.trump  PartitionCount:100  ReplicationFactor:3  Configs:  Topic:
mno.de.pola.trump  Partition: 0  Leader: 1017  Replicas: 1017,1018       Isr: 1017,1018,1016  Topic:
mno.de.pola.trump  Partition: 1  Leader: 1018  Replicas: 1018,1016,1017  Isr: 1018,1017,1016  Topic:
mno.de.pola.trump  Partition: 2  Leader: 1017  Replicas: 1016,1017,1018  Isr: 1016,1018,1017  Topic:
mno.de.pola.trump  Partition: 3  Leader: 1017  Replicas: 1017,1016       Isr: 1017,1018,1016  Topic:
mno.de.pola.trump  Partition: 4  Leader: 1018  Replicas: 1018,1017,1016  Isr: 1018,1017,1016  Topic:
mno.de.pola.trump  Partition: 5  Leader: 1016  Replicas: 1016,1018,1017  Isr: 1016,1018,1017  Topic:
mno.de.pola.trump  Partition: 6  Leader: 1017 Replicas:  1017,1018,1016  Isr: 1017,1018,1016

И так далее

.

.

.

поэтому мой вопрос: я буду рад узнать о каком-либо инструменте (скрипте), который может проверить вывод из kafka-topics.sh --describeлюбые идеи по этому поводу

пример хорошей сбалансированной конфигурации

/usr/hdp/current/kafka-broker/bin/kafka-topics.sh  --describe --zookeeper  master01:2181 --topic mno.de.pola.trump

        Topic: mno.de.pola.trump      PartitionCount:100      ReplicationFactor:3     Configs:
        Topic: mno.de.pola.trump     Partition: 0    Leader: 1017    Replicas: 1017,1018,1016        Isr: 1017,1018,1016
        Topic: mno.de.pola.trump     Partition: 1    Leader: 1018    Replicas: 1018,1016,1017        Isr: 1018,1017,1016
        Topic: mno.de.pola.trump     Partition: 2    Leader: 1016    Replicas: 1016,1017,1018        Isr: 1016,1018,1017
        Topic: mno.de.pola.trump     Partition: 3    Leader: 1017    Replicas: 1017,1016,1018        Isr: 1017,1018,1016
        Topic: mno.de.pola.trump     Partition: 4    Leader: 1018    Replicas: 1018,1017,1016        Isr: 1018,1017,1016
        Topic: mno.de.pola.trump     Partition: 5    Leader: 1016    Replicas: 1016,1018,1017        Isr: 1016,1018,1017
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...