Flume Kafka Мойка UUID от канала памяти - PullRequest
Новая
       29

Flume Kafka Мойка UUID от канала памяти

0 голосов
/ 04 ноября 2018

У меня есть конфигурация flume, которая пытается подогнать логи -> сгенерировать UUID -> опубликовать в теме kafka.

Источник exec Канал это память UUID Interceptor используется. Мойка Кафка.

UUID не получает в заголовке никаких идей, почему я могу передать UUID в качестве ключа для мойки Кафки. 

a1.sources = r1
a1.sinks = k1
a1.channels = c1
a1.sources.r1.type = exec
a1.sources.r1.command = tail -f /usr/app1/log/app.log
a1.sources.r1.channels = c1
a1.sources.r1.interceptors = i1

# channel configuration
# Each channel's type must be defined.
a1.channels.c1.type = memory
a1.channels.c1.capacity = 100
a1.channels.c1.transactionCapacity = 100

# interceptor
a1.sources.r1.interceptors.i1.type = 
org.apache.flume.sink.solr.morphline.UUIDInterceptor$Builder
a1.sources.r1.interceptors.i1.headerName = id
a1.sources.r1.interceptors.i1.preserveExisting = true
a1.sources.r1.interceptors.i1.prefix = "flume_"

# Each sink's type must be defined
a1.sinks.k1.channel = c1
a1.sinks.k1.type = org.apache.flume.sink.kafka.KafkaSink
a1.sinks.k1.kafka.topic = testtopic
a1.sinks.k1.kafka.bootstrap.servers = localhost:<port>
a1.sinks.k1.kafka.flumeBatchSize = 20
...