Как включить или получить URL отслеживания в оболочке spark? - PullRequest
0 голосов
/ 31 августа 2018

Когда я даю Spark-Shell или Spark-shell -master пряжу, я не нахожу отслеживающий URL на консоли.

Скажите, что я изменил номер executors и executor памяти, я хотел бы проверить эти изменения, используя URL-адрес отслеживания.

Будет полезно, если я узнаю, как получить этот URL для отслеживания

Ответы [ 2 ]

0 голосов
/ 31 августа 2018

вы можете получить URL SparkUI программно:

val url = spark.sparkContext.uiWebUrl
0 голосов
/ 31 августа 2018

Если вы используете пряжу,

  1. Перейти к приложениям пряжи в CM.
  2. Вы найдете свою искровую оболочку в списке. Нажмите ваше приложение
  3. Вы найдете URL-адрес для отслеживания : ApplicationMaster - это URL-адрес, который вы ищете. Дайте мне знать, если это отвечает на ваш запрос.
...