Как сбрасываются смещения в кафке 0.11 - PullRequest
0 голосов
/ 31 мая 2018

Я использую Кафку 0.11.Я пытаюсь сбросить смещение темы в группе потребителей, но не вижу согласованности среди вариантов.Как рассчитывается смещение для разных вариантов в kafka-consumer-groups?

$ /opt/cloudera/parcels/KAFKA-3.0.0-1.3.0.0.p0.40/lib/kafka/bin/kafka-consumer-groups.sh --bootstrap-server xxxxxxxxxxxx.devkafka.com:9092 --group testgroup --reset-offsets **--by-duration PT1H30M0S** --topic Test_Upgrade --export --command-config client.properties 2>/dev/null
**Test_Upgrade,1,615
Test_Upgrade,0,625**

$ date
**Thu May 31 15:30:45 BST 2018**

$ /opt/cloudera/parcels/KAFKA-3.0.0-1.3.0.0.p0.40/lib/kafka/bin/kafka-consumer-groups.sh --bootstrap-server xxxxxxxxxxxx.devkafka.com:9092 --group testgroup --reset-offsets **--to-datetime 2018-05-31T14:00:00.000** --topic Test_Upgrade --export --command-config client.properties 2>/dev/null
**Test_Upgrade,1,754
Test_Upgrade,0,772**

1 Ответ

0 голосов
/ 01 июня 2018

--to-datetime - когда мы хотим сбросить смещения на определенный момент времени.(например, до 01.01.2017 в 00:00 для повторной обработки всех записей за этот год)
--by-duration - когда мы хотим вернуться на некоторое время назад (например, P7D для повторной обработки всех записей за неделю назад)

Взято отсюда KIP-122

Чтобы на самом деле запустить его, вам нужно добавить --execute к вашей команде, без него Кафка печатает результат операции.

Больше информации в этом гисте

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...