Как просмотреть использованные сообщения Кафки в Nifi? - PullRequest
0 голосов
/ 17 мая 2018

Я запустил процесс Nifi (Consume Kafka) и подключил его к теме.Он работает, но я не могу (не знаю), где я могу просмотреть сообщения?

Ответы [ 2 ]

0 голосов
/ 17 мая 2018

Процессор ConsumeKafka запускается и генерирует файл потока для каждого сообщения. Только когда вы подключите процессор к другим компонентам, таким как другой процессор или порт вывода, вы сможете визуализировать данные, по которым перемещаются данные.

Для начала вы можете попробовать это:

  • Соедините ConsumeKafka с LogAttribute или любым другим процессором для это важно.
  • Останов или отключение процессора LogAttribute.
  • Теперь, когда вы начинаете ConsumeKafka, все полученные сообщения от настроенная тема Кафки будет поставлена ​​в очередь в виде потоковых файлов.
  • Щелкните правой кнопкой мыши по той взаимосвязи, где потоковые файлы поставлены в очередь и нажмите List Queue, и вы получите доступ к очереди.
  • Нажмите любой предмет на очереди, появится контекстное меню. Нажмите кнопку View и вы можно увидеть данные.

Это полное объяснение «просмотра» сообщения Kafka просто для того, чтобы помочь вам в отладке и начать работу с NiFi. В идеале вы должны использовать другие процессоры NiFi для разработки своего варианта использования.

Пример

Вы получаете сообщения от Кафки и хотите записать их в MongoDB, чтобы вы могли получить поток в виде: enter image description here Примечание : Существуют процессоры, основанные на записях, такие как ConsumeKafkaRecord и PutMongoRecord, но в основном они делают то же самое с большим количеством улучшений. Поскольку вы новичок в этом, я предложил простой процесс. Вы можете найти подробную информацию о Record процессорах здесь и попробовать это.

0 голосов
/ 17 мая 2018

Вам может потребоваться использовать сообщения --from-beginning, если эти сообщения использовались ранее (и, следовательно, смещения были зафиксированы).

В процессоре GetKafka есть свойство Сброс смещения , которое должно быть установлено на наименьшее , что эквивалентно --from-beginning в Kafka Console Consumer.

...