Как контролировать кластер Hadoop с помощью ELK - PullRequest
0 голосов
/ 10 мая 2019

Я изучаю возможности мониторинга кластера hadoop с помощью стека ELK / EFK. Я искал в общедоступных доменах, но не смог найти ничего подходящего.

Любая помощь в этом отношении будет высоко оценен

1 Ответ

0 голосов
/ 11 мая 2019

Непонятно, что вы пытаетесь контролировать.

Все в Hadoop в основном представляет собой процесс Java, поэтому добавление некоторых JMX-экспортеров, таких как Prometheus или Jolokia, будет показывать метрики поверх REST, и оттуда вы получитепериодически опрашивать тех, кто в Elasticsearch.

Чтобы включить JMX, вам нужно отредактировать сценарии hadoop-env.sh, я полагаю, для YARN и HDFS, чтобы контролировать любые параметры JVM.Hive, Spark, Hbase и т. Д. Имеют одинаковые сценарии

Общий пример здесь на Jolokia https://www.elastic.co/blog/monitoring-java-applications-with-metricbeat-and-jolokia

Кроме этого, Filebeat и Metricbeat работают так же, как и любая другая система

Если вы используете Cloudera Manager или Ambari для управления вашим кластером, то вам будет предоставлен мониторинг с помощью этих инструментов

...