Как передать конфигурацию из spark-submit в кластер пряжи? - PullRequest
0 голосов
/ 18 мая 2018

Мне интересно, есть ли какой-нибудь способ для spark-submit временно изменить конфигурацию задания пряжи?

Вопрос в том, что наш сервер истории Spark over yarn дает доступ только администраторам, что не удобно дляПользователь, чтобы получить журнал своей работы.Я узнал, что "mapreduce.job.acl-view-job" в mapreduce-default.xml может изменить список ACL конкретной работы.Поскольку я использую spark-submit для запуска задания, а "--conf" зарезервирован для самой Spark, но как я могу установить конфигурацию пряжи из командной строки вместе с приложением?

1 Ответ

0 голосов
/ 19 мая 2018

Вы можете изменить конфигурацию Hadoop в Spark (полученную через SparkContaxt.hadoopConfiguration), добавив --conf с префиксом spark.hadoop..

В вашем примере это будет

spark-submit --conf spark.hadoop.mapreduce.job.acl-view-job=YOUR_ACL_STATEMENT ...
...