Если удалить устаревшую тему, потребитель kafka будет продолжать сбрасывать предупреждение unknown_topic в журнале

Question

Недавно мы использовали flink для использования тем kafka с шаблоном регулярных выражений. Обнаружено, что при удалении некоторых неиспользуемых тем журналы будут продолжать сбрасываться UNKNOWN_TOPIC_EXCEPTION.

Я изучаю исходный код клиента kafka, выясняется, что для потребителя topicExpiry отключен в метаданных, что приводит к тому, что даже если тема удалена, клиент по-прежнему имеет эту информацию в списке тем метаданных и продолжает выборку с серверов.

Есть ли какой-нибудь хороший способ избежать этого раздражающего журнала предупреждений без изменения исходного кода kafka? (Нам по-прежнему нужно исключение «Реальная» Неизвестная тема, что означает не устаревшую тему, в журналах)

Следующий код может быть использован для воспроизведения этой проблемы (если вы создаете несколько тем, таких как "test1", "test2", "test3" ... "testn" в кластере kafka, а затем удаляете любую из них во время работы) ,

public static void main(String [] args) {
        Properties props = new Properties();
        props.put("bootstrap.servers", "localhost:9092\n");
        props.put("group.id", "test10");
        props.put("enable.auto.commit", "true");
        props.put("auto.commit.interval.ms", "1000");
        props.put("auto.offset.reset", "earliest");
        props.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
        props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
        props.put("metadata.max.age.ms", "60000");
        KafkaConsumer<String, String> consumer = new KafkaConsumer<String, String>(props);

        class PartitionOffsetAssignerListener implements ConsumerRebalanceListener {

            private KafkaConsumer<String, String> consumer;

            public PartitionOffsetAssignerListener(KafkaConsumer kafkaConsumer) {
                this.consumer = kafkaConsumer;
            }

            public void onPartitionsRevoked(Collection<TopicPartition> partitions) {

            }

            public void onPartitionsAssigned(Collection<TopicPartition> partitions) {
                //reading all partitions from the beginning
                consumer.seekToBeginning(partitions);
            }
        }

        consumer.subscribe(Pattern.compile("^test.*$"), new PartitionOffsetAssignerListener(consumer));

        while (true) {
            ConsumerRecords<String, String> records = consumer.poll(100);
            for (ConsumerRecord<String, String> record : records) {
                System.out.printf("offset = %d, key = %s, value = %s%n", record.offset(), record.key(), record.value());
            }
        }
}