Что означает эта ошибка в журналах брокера Kafka? - PullRequest
0 голосов
/ 16 февраля 2019

Что означает эта ошибка?

Не удалось добавить ошибку в кафке-брокере для потоковых разделов приложения?

enter image description here

Я вижу слишком много таких ошибок, когда запускаю приложение kafka streams.Что означает эта ошибка и как я могу это исправить?

Ответы [ 2 ]

0 голосов
/ 17 февраля 2019

Это известная ошибка, которая будет устранена с помощью https://cwiki.apache.org/confluence/display/KAFKA/KIP-360%3A+Improve+handling+of+unknown+producer

С этим ничего не поделаешь, но нужно дождаться исправления.

Проблема в том,что Kafka Streams активно удаляет данные (ср. https://issues.apache.org/jira/browse/KAFKA-6150) из тем перераспределения, и, следовательно, увеличение времени хранения не помогает - фактически, Kafka Streams уже настраивает тему перераспределения с retention.ms=MAX_VALUE.

ЕдинственноеВы можете сделать это, чтобы увеличить конфиги тем segment.bytes и segment.ms config для темы перераспределения. Увеличение сегментов уменьшает вероятность потери состояния транзакционного производителя, поскольку активный сегмент не подлежит активной очистке данных, и, следовательно, данныххранится дольше.

0 голосов
/ 16 февраля 2019
...