Проверьте ваш prometheus.yaml, он должен иметь статические конфиги, как и для prometheus,
static_configs:
- targets:
- localhost:9090
curl localhost:9090/metrics
и убедитесь, что вы получаете метрики в качестве вывода
Для панели инструментов grafana создайте org -> prometheus в качестве источника данных. Настройте prometheus IP: PORT, нажмите на кнопку test и убедитесь, что подключение доступно.
Откройте файл .json и измените конфиги в соответствии с вашими требованиями, импортируйте и проверьте.