Как завершить sh задание Flink, чтобы последние смещения в Kafka были равны последним смещениям в контрольном указании (прочитанные и написанные сообщения) - PullRequest
0 голосов
/ 17 июня 2020

У меня есть задание Flink, которое читает сообщения от Kafka и записывает их в HDFS. Я хочу правильно завершить sh работу этого задания и сохранить все смещения о чтении и записи задания в Kafka. Как я понял из статьи Как Apache Flink управляет смещениями потребителей Kafka Смещения Kafka не равны смещениям Checkpointing в случае сбоя задания. Не могли бы вы помочь мне найти в документации способ и некоторые гарантии правильного завершения работы Flink, которые позволяют ему записывать все прочитанные и записанные сообщения в HDFS. Я нашел некоторую информацию об отмене задания из консоли и веб-интерфейса, но будет ли мигать ожидание записи всех прочитанных сообщений после отмены задания?

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...