Kafka Connect - не удалось найти метаданные раздела - PullRequest
1 голос
/ 19 февраля 2020

Запуск Kafka Connect на кластере Kafka, у которого отключено автоматическое создание тем. Насколько я мог видеть на другом работающем кластере, у нас были созданы темы connect-config, connect-offsets и connect-status. Таким образом, эти темы были воссозданы в новом кластере с тем же коэффициентом репликации и разделами.

При запуске службы возникает ошибка, хотя у меня есть netcat от экземпляра подключения к брокерам, и там не было проблем с подключением

Could not look up partition metadata for offset backing store topic in allotted period. This could indicate a connectivity issue, unavailable topic partitions, or if this is your first use of the topic it may have taken too long to create

Я вижу, где это выброшено ниже из класса connect utils. Но проверил и эти темы созданы так немного потерян сейчас

        producer = createProducer();
        consumer = createConsumer();

        List<TopicPartition> partitions = new ArrayList<>();

        // We expect that the topics will have been created either manually by the user or automatically by the herder
        List<PartitionInfo> partitionInfos = null;
        long started = time.milliseconds();
        while (partitionInfos == null && time.milliseconds() - started < CREATE_TOPIC_TIMEOUT_MS) {
            partitionInfos = consumer.partitionsFor(topic);
            Utils.sleep(Math.min(time.milliseconds() - started, 1000));
        }
        if (partitionInfos == null)
            throw new ConnectException("Could not look up partition metadata for offset backing store topic in" +
                    " allotted period. This could indicate a connectivity issue, unavailable topic partitions, or if" +
                    " this is your first use of the topic it may have taken too long to create

1 Ответ

1 голос
/ 19 февраля 2020

темы были созданы вручную,

Kafka Connect будет использовать AdminClient для инициализации своих собственных тем. Нет причин делать это вручную.

Если вы это сделаете, вам необходимо убедиться в правильности настроек, которые описаны в документации Confluent и Apache Kafka для начала работы с Connect

...