Как топить тему, кафку к кафке, используя Flume?

Question

Я пытаюсь перенести журнал из темы в другую тему.Мне нужно подключить Кафку к Кафке с помощью Flume.Посмотрите ниже:

#
# Flume Conf
#

a1.sources = s1
a1.sinks = k1
a1.channels = c1


# Kafka Source

a1.sources.s1.type = org.apache.flume.source.kafka.KafkaSource
a1.sources.s1.kafka.bootstrap.servers = kafka:9092
a1.sources.s1.kafka.topics = apache


# Kafka Sink

a1.sinks.k1.type = org.apache.flume.sink.kafka.KafkaSink
a1.sinks.k1.kafka.bootstrap.servers = kafka:9092


# Use a channel which buffers events in memory

a1.channels.c1.type = memory
a1.channels.c1.capacity = 10000000
a1.channels.c1.transactionCapacity = 1000000


# Bind the source and sink to the channel

a1.sources.s1.channels = c1
a1.sinks.k1.channel = c1

Раковина не создается.

Answer 1

Если вы хотите реплицировать данные из одного кластера Kafka в другой, есть более эффективные способы, чем Flume, в том числе:

• MirrorMaker , как упоминалось @ cricket_007 (с открытым исходным кодом,часть Apache Kafka)
• Confluent's Replicator (коммерческий инструмент, 30-дневная бесплатная пробная версия)
• uReplicator ( с открытым исходным кодом от Uber)
• Mirus ( с открытым исходным кодом от Salesforce)
• Brucke (с открытым исходным кодом)

Если вы хотите действительно грязный хак, вы также можете сделать что-то с kafkacat и nc.

Отказ от ответственности: Iработа для Конфлюента.