Включите ключ из сообщения Kafka с разъемом HDFS приемника подключения - PullRequest
1 голос
/ 30 мая 2019

Я использую соединитель приемника HDFS Kafka для записи в HDFS из kafka, он работает нормально. Мои сообщения выглядят так:

key: my-key
value: {
"name": "helen"
}

Мой вариант использования заключается в том, что мне нужно добавить ключи моего сообщения к событиям, которые я отправляю в HDFS.

Проблема в том, что ключ не отображается в полезной нагрузке значения, поэтому я не могу использовать:

"partitioner.class": 
"io.confluent.connect.hdfs.partitioner.FieldPartitioner", 
"partition.field.name": "key", 

У меня вопрос, как я могу добавить ключ к сообщению, которое я отправляю в HDFS, или как я могу создать раздел на основе ключа?

1 Ответ

1 голос
/ 31 мая 2019

Из коробки вы не можете (то же самое относится и к S3 Connect), только исходя из способа написания кода, а не ограничения платформы Connect

По крайней мере, вам нужно будет создать и добавить этот SMT для ваших сотрудников Connect, который "переместит" ключ, тему и раздел во все "значение" записи Connect перед записью в хранилище

https://github.com/jcustenborder/kafka-connect-transform-archive

...