Запустите Spark на YARN без искры-отправки, но с Java - PullRequest
0 голосов
/ 26 ноября 2018

В кластере HDP 2.4 Hadoop с YARN мне интересно, возможно ли запустить программу Java Apache Spark без использования программы spark-submit --master=yarn, но непосредственно на Java?(или если это действительно плохая практика).

Мой вариант использования - иметь демон Java, который предоставляет HTTP API для выполнения задания Spark на разных кластерах HDP.

...