Кафка создает слишком много ВРЕМЕНИ ПОДОЖДИТЕ TCP-соединение - PullRequest
Новая
       9

Кафка создает слишком много ВРЕМЕНИ ПОДОЖДИТЕ TCP-соединение

0 голосов
/ 08 января 2019

Я использую Кафку 0.11.0.3

У меня есть брокер Kafka и удаленный кластер Zookeeper. Я запускаю сервер Kafka, он успешно регистрирует свой идентификатор в Zookeeper, и я даже могу получить списки тем с помощью команды kafka-topic.sh . Проблема в том, что я повторяю следующие строки в логах Кафки: 

[2019-01-08 10:51:09,138] WARN Attempting to send response via channel for which there is no open connection, connection id 192.168.0.201:9092-192.168.0.201:58292 (kafka.network.Processor)
[2019-01-08 10:51:09,198] INFO Creating /controller (is it secure? false) (kafka.utils.ZKCheckedEphemeral)
[2019-01-08 10:51:09,226] INFO Result of znode creation is: OK (kafka.utils.ZKCheckedEphemeral)
[2019-01-08 10:51:09,306] INFO Creating /controller (is it secure? false) (kafka.utils.ZKCheckedEphemeral)
[2019-01-08 10:51:09,327] INFO Result of znode creation is: OK (kafka.utils.ZKCheckedEphemeral)
[2019-01-08 10:51:09,382] WARN Attempting to send response via channel for which there is no open connection, connection id 192.168.0.201:9092-192.168.0.201:58296 (kafka.network.Processor)
[2019-01-08 10:51:09,408] INFO Creating /controller (is it secure? false) (kafka.utils.ZKCheckedEphemeral)
[2019-01-08 10:51:09,446] INFO Result of znode creation is: OK (kafka.utils.ZKCheckedEphemeral)
[2019-01-08 10:51:09,559] INFO Creating /controller (is it secure? false) (kafka.utils.ZKCheckedEphemeral)
[2019-01-08 10:51:09,602] INFO Result of znode creation is: OK (kafka.utils.ZKCheckedEphemeral)

Посредник пытается подключиться к порту 58292 на той же машине (на которой работает сервер Kafka), но не может установить соединение. Я также проверяю каталог контроллера на Zookeeper, и он был пуст. Более странно, когда я получаю TCP установленные соединения на узле сервера Kafka, я наблюдаю так много TIME_WAIT соединений: 

Proto Recv-Q Send-Q Local Address           Foreign Address         State       PID/Program name    
tcp        0      0 192.168.0.201:55572     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56290     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55442     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55512     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56074     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56286     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55460     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55904     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55488     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56308     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55502     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56326     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55960     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55930     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56300     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56004     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55470     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55474     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55432     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55412     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56304     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55858     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55860     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56324     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55388     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56168     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55898     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55820     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55676     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56202     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55756     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56278     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55658     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55628     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56038     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56108     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55988     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55894     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55428     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55424     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56128     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56146     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55884     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56280     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55798     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56120     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55888     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55708     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55696     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56298     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55646     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56150     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55376     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55980     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55556     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56208     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55752     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55982     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55864     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55760     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56056     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56002     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55536     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55576     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55392     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55726     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55426     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55710     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56042     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56264     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55606     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55972     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56176     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55780     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56342     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55534     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55438     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56114     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56068     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55880     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56350     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55970     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55404     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55672     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55454     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55946     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56126     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55538     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56124     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55712     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56084     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55992     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56302     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55984     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55394     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55550     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56094     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55936     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55530     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55868     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:56294     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0      0 192.168.0.201:55876     192.168.0.201:9092      TIME_WAIT   -                   
tcp        0     31 192.168.0.201:57552     192.168.0.204:2181      ESTABLISHED 1015/java

Единственное успешно установленное соединение - для Zookeeper (на последней строке). Я также проверил порт 9092 с удаленного узла, и он был открыт: 

Starting Nmap 7.01 ( https://nmap.org ) at 2019-01-08 11:32 +0330
Nmap scan report for (192.168.0.201)
Host is up (0.0027s latency).
PORT     STATE SERVICE
9092/tcp open  unknown

Nmap done: 1 IP address (1 host up) scanned in 0.08 seconds

Некоторые баллы:

  • Брокер работал нормально около 2 месяцев, и ошибка произошла внезапно.
  • Кластер Zookeeper работает нормально, потому что некоторые другие компоненты, такие как HDFS, используют его, и ошибки нет.
  • Операционная система - CentOS7, и брандмауэр не включен.

Вот конфигурация сервера Kafka: 

broker.id=100
listeners=PLAINTEXT://192.168.0.201:9092
num.partitions=24
delete.topic.enable=true
log.dirs=/data/esb
zookeeper.connect=co1:2181,co2:2181
log.retention.hours=168
zookeeper.session.timeout.ms=40000

В чем причина соединений TIME_WAIT ?

...