Установите offset.storage.topic в connect-distributed.properties для использования другого сервера - PullRequest
1 голос
/ 03 мая 2019

Я использую тему kafka, используя kafka connect для загрузки данных в splunk.Я не хочу, чтобы смещение было сохранено на том же самом сервере начальной загрузки.Я знаю, что мы можем установить свойство offset.storage.topic.Но есть ли что-то вроде свойства offset.storage.Server?

Ниже приведено несколько свойств из моей конфигурации connect-distributed.properties.

bootstrap.servers=[server]

group.id=connect-cluster

plugin.path=/opt/kafka_2.12-2.2.0/plugins

offset.storage.topic=connect-offsets

offset.storage.replication.factor=3

1 Ответ

1 голос
/ 03 мая 2019

Нет, я не верю, что это возможно.

Один из вариантов, если вы действительно не хотите записывать смещения обратно в кластер, - это запустить Kafka Connect в автономном режиме и использовать вместо него локальный файл для смещений.Если вы сделаете это, вы сможете запустить только один экземпляр работника, поэтому не получите никаких преимуществ масштабируемости и отказоустойчивости, которые предоставляет распределенный режим.

...