Apache Ambari или Cloudera Manager специально созданы для выполнения этих задач для Hadoop
Они также контролируют кластер и предоставляют дополнительные сервисы, которые взаимодействуют с ним, такие как Kafka, Hbase, Spark и т. Д.
Впрочем, это далеко не так далеко, и вам понадобится что-то вроде Ansible для развертывания пользовательских конфигураций (AWX - это веб-интерфейс для Ansible). Puppet & Chef - тоже альтернатива