Kafka Consumer: запись не найдена

Question

Я пытаюсь проверить потребителя kafka, используя данные из удаленного кластера Kafka.Я получаю следующую ошибку при использовании kafka-console-consumer.sh:

 ERROR Error processing message, terminating consumer process:  (kafka.tools.ConsoleConsumer$)
java.lang.IllegalStateException: No entry found for connection 2147475658
    at org.apache.kafka.clients.ClusterConnectionStates.nodeState(ClusterConnectionStates.java:330)
    at org.apache.kafka.clients.ClusterConnectionStates.disconnected(ClusterConnectionStates.java:134)
    at org.apache.kafka.clients.NetworkClient.initiateConnect(NetworkClient.java:885)
    at org.apache.kafka.clients.NetworkClient.ready(NetworkClient.java:276)
    at org.apache.kafka.clients.consumer.internals.ConsumerNetworkClient.tryConnect(ConsumerNetworkClient.java:548)
    at org.apache.kafka.clients.consumer.internals.AbstractCoordinator$FindCoordinatorResponseHandler.onSuccess(AbstractCoordinator.java:655)
    at org.apache.kafka.clients.consumer.internals.AbstractCoordinator$FindCoordinatorResponseHandler.onSuccess(AbstractCoordinator.java:635)
    at org.apache.kafka.clients.consumer.internals.RequestFuture$1.onSuccess(RequestFuture.java:204)
    at org.apache.kafka.clients.consumer.internals.RequestFuture.fireSuccess(RequestFuture.java:167)
    at org.apache.kafka.clients.consumer.internals.RequestFuture.complete(RequestFuture.java:127)
    at org.apache.kafka.clients.consumer.internals.ConsumerNetworkClient$RequestFutureCompletionHandler.fireCompletion(ConsumerNetworkClient.java:575)
    at org.apache.kafka.clients.consumer.internals.ConsumerNetworkClient.firePendingCompletedRequests(ConsumerNetworkClient.java:389)
    at org.apache.kafka.clients.consumer.internals.ConsumerNetworkClient.poll(ConsumerNetworkClient.java:297)
    at org.apache.kafka.clients.consumer.internals.ConsumerNetworkClient.poll(ConsumerNetworkClient.java:236)
    at org.apache.kafka.clients.consumer.internals.ConsumerNetworkClient.poll(ConsumerNetworkClient.java:215)
    at org.apache.kafka.clients.consumer.internals.AbstractCoordinator.ensureCoordinatorReady(AbstractCoordinator.java:231)
    at org.apache.kafka.clients.consumer.internals.ConsumerCoordinator.poll(ConsumerCoordinator.java:316)
    at org.apache.kafka.clients.consumer.KafkaConsumer.updateAssignmentMetadataIfNeeded(KafkaConsumer.java:1214)
    at org.apache.kafka.clients.consumer.KafkaConsumer.poll(KafkaConsumer.java:1179)
    at org.apache.kafka.clients.consumer.KafkaConsumer.poll(KafkaConsumer.java:1164)
    at kafka.tools.ConsoleConsumer$ConsumerWrapper.receive(ConsoleConsumer.scala:436)
    at kafka.tools.ConsoleConsumer$.process(ConsoleConsumer.scala:104)
    at kafka.tools.ConsoleConsumer$.run(ConsoleConsumer.scala:76)
    at kafka.tools.ConsoleConsumer$.main(ConsoleConsumer.scala:54)
    at kafka.tools.ConsoleConsumer.main(ConsoleConsumer.scala)
Processed a total of 0 messages

Вот команда, которую я использую:

./bin/kafka-console-consumer.sh --bootstrap-server SSL://{IP}:{PORT},SSL://{IP}:{PORT},SSL://{IP}:{PORT} --consumer.config ./config/consumer.properties --topic MYTOPIC --group MYGROUP

Вот файл ./config/consumer.properties:

bootstrap.servers=SSL://{IP}:{PORT},SSL://{IP}:{PORT},SSL://{IP}:{PORT}

# consumer group id
group.id=MYGROUP

# What to do when there is no initial offset in Kafka or if the current
# offset does not exist any more on the server: latest, earliest, none
auto.offset.reset=earliest

#### Security
security.protocol=SSL
ssl.key.password=test1234
ssl.keystore.location=/opt/kafka/config/certs/keystore.jks
ssl.keystore.password=test1234
ssl.truststore.location=/opt/kafka/config/certs/truststore.jks
ssl.truststore.password=test1234

Ты хоть представляешь, в чем проблема?

Answer 1

В моем случае я получал, что при попытке подключиться к контейнеру Kafka мне пришлось передать следующее:

-e KAFKA_LISTENERS=PLAINTEXT://0.0.0.0:9092

-e KAFKA_ADVERTISED_LISTENERS=PLAINTEXT://localhost:9092

Надеюсь, это кому-нибудь поможет

Answer 2

В моем случае не удалось найти идентификатор брокера (2147475658), упомянутый в ошибке.

No entry found for connection 2147475658

Вы можете создать брокера с идентификатором 2147475658, установив broker.idсвойство в файле server.properties.Создайте отдельные файлы server.properties для всех брокеров.

Или Если у вас есть хотя бы один живой брокер, вы можете удалить / удалить брокера, который выдает ошибку.

Ссылка на документацию: https://kafka.apache.org/documentation/#quickstart_multibroker

Answer 3

Вы можете увидеть сообщение, что запись не найдена, если версия RestClient отличается от вашей версии ElasticSearch

Answer 4

У меня была эта проблема (с потребителями и производителями) при запуске Kafka и Zookeeper в качестве контейнеров Docker.

Решением было установить advertised.listeners в файле config/server.properties брокеров Kafka, чтобы онсодержит IP-адрес контейнера, например,

advertised.listeners=PLAINTEXT://172.15.0.8:9092

См. https://github.com/maxant/kafkaplayground/blob/master/start-kafka.sh для примера сценария, используемого для запуска Kafka внутри контейнера после правильной настройки файла свойств.

Answer 5

Я нашел проблему.Это была проблема с DNS в конце.Я связывался с брокерами Kafka по IP-адресам, но брокер отвечает DNS-именем.После настройки DNS-имен на стороне потребителя он снова начал работать.

Answer 6

Вы уверены, что удаленная кафка работает.Я бы предложил запустить nmap -p PORT HOST, чтобы убедиться, что порт открыт (если он не настроен иначе, порт должен быть 9092).Если это нормально, тогда вы можете использовать kafkacat, который облегчает работу.Создайте потребителя под управлением kafkacat -b HOST:PORT -t YOUR_TOPIC -C -o beginning или создайте производителя под управлением kafkacat -b HOST:PORT -t YOUR_TOPIC -P

Answer 7

Похоже, что свойство прослушивателя кластера Kafka не настроено в server.properties.

В удаленном кластере kafka это свойство следует раскомментировать с правильным именем хоста.

listeners=PLAINTEXT://0.0.0.0:9092