Как связать вывод logstash с искровым вводом - PullRequest
0 голосов
/ 10 мая 2018

Я обрабатываю некоторые журналы, я использую logstash, чтобы прочитать журналы из файлов журналов и отфильтровать их, прежде чем нажать на эластичный поиск в БД. Однако я хотел бы дополнить информацию журнала некоторыми данными, которые я храню в postgres db, поэтому я подумываю об использовании промежутка между ними.

Можно ли подать вывод logstash на спарк, затем обогатить мои данные и затем передать их в упругий поиск

Любая помощь приветствуется.

1 Ответ

0 голосов
/ 10 мая 2018

Используйте плагин вывода Logstash's Kafka и считывайте данные из Kafka в приемник Spark Kafka и обогащайте ваши данные. После обогащения вы можете вызывать массовую публикацию документов эластичного поиска или отдельный документ и индексировать их с помощью REST API.

...