Доступ к режиму искрового кластера в представлении искры - PullRequest
0 голосов
/ 25 октября 2018

Я пытаюсь запустить мой код spark scala, используя spark submit.Я хочу получить доступ к искровому кластеру для этой цели.Итак, что я должен использовать для мастера в контексте Spark?Я использовал, как это

val spark = SparkSession.builder()
      .master("spark://prod5:7077")
      .appName("MyApp")
      .getOrCreate;

Но, похоже, не работает.Что я должен использовать в качестве мастера для использования искрового кластера?

Ответы [ 2 ]

0 голосов
/ 13 марта 2019

Из официальной документации -

spark-submit --class <main-class>  --master <master-url> --deploy-mode <deploy-mode>  --conf <key>=<value> ... # other options <application-jar>  [application-arguments]
0 голосов
/ 11 ноября 2018

Если вы пытаетесь отправить свою работу в IDE, просто убедитесь, что «prod5» является главным, и попробуйте изменить порт на 6066 по умолчанию.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...