Как передать метрики от удаленного работника Storm на сервер Graphite при использовании настроенного IScheduler? - PullRequest
Новая
       65

Как передать метрики от удаленного работника Storm на сервер Graphite при использовании настроенного IScheduler?

0 голосов
/ 21 марта 2019

Я хорошо собирал метрики от Apache Storm до Graphite. Затем я разработал настраиваемый планировщик, который реализует интерфейс IScheduler, и теперь я не могу собирать какие-либо показатели.

Вот мой планировщик : 

public class SiteAwareScheduler implements IScheduler {
    @Override
    public void prepare(Map conf) {
    }
    @Override
    public void schedule(Topologies topologies, Cluster cluster) {
        ....
    }
}

В файле storm.yaml: 

supervisor.scheduler.meta:
  site: "cluster"
storm.scheduler: "org.sense.storm.scheduler.SiteAwareScheduler"

Я использую эту библиотеку для сбора метрик и отправки их на сервер Graphite. 

public class MyTopology {
    config.put(YammerFacadeMetric.FACADE_METRIC_TIME_BUCKET_IN_SEC, 30);
    config.put(SimpleGraphiteStormMetricProcessor.GRAPHITE_HOST, "127.0.0.1");
    config.put(SimpleGraphiteStormMetricProcessor.GRAPHITE_PORT, 2003);
    config.put(SimpleGraphiteStormMetricProcessor.REPORT_PERIOD_IN_SEC, 10);
    config.put(Config.TOPOLOGY_NAME, "MqttSensorSumTopology");
    config.registerMetricsConsumer(MetricReporter.class, new MetricReporterConfig(".*", SimpleGraphiteStormMetricProcessor.class.getCanonicalName()), 1);
    ...
    TopologyBuilder topologyBuilder = new TopologyBuilder();
    ...
    topologyBuilder.setBolt(MqttSensors.BOLT_SENSOR_TICKET_SUM.getValue(), new SumSensorValuesWindowBolt(SensorType.COUNTER_TICKETS).withTumblingWindow(Duration.seconds(5)), 1)
.shuffleGrouping(MqttSensors.SPOUT_STATION_01_TICKETS.getValue())
.addConfiguration(TagSite.SITE.getValue(), TagSite.CLUSTER.getValue());
}

public class SumSensorValuesWindowBolt extends BaseWindowedBolt {
    public void prepare(Map stormConf, TopologyContext context, OutputCollector collector) {
        StormYammerMetricsAdapter.configure(stormConf, context, new MetricsRegistry());
        this.collector = collector;
    }
    public void execute(TupleWindow inputWindow) {
        ...
    }
}

Метод "prepare" в IScheduler не имеет TopologyContext, поэтому я не знаю, где создавать экземпляры моих метрик с новым расписанием.

Есть намеки? Спасибо Фелипе

1 Ответ

0 голосов
/ 25 марта 2019

Я установил Graphite, как сказано в этой ссылке . Затем я настроил файл storm.yaml, как сказано в этой ссылке на обеих машинах. Мастер и рабочий. 

storm.metrics.reporters:
  # Graphite Reporter
  - class: "org.apache.storm.metrics2.reporters.GraphiteStormReporter"
    daemons:
        - "supervisor"
        - "nimbus"
        - "worker"
    report.period: 60
    report.period.units: "SECONDS"
    graphite.host: "localhost"
    graphite.port: 2003

Затем метрики появляются на графическом сервере под именем моей топологии MqttSensorSumTopology-1-1553506290. enter image description here

...