CloudEra - Spark - при вызове циклически проходит через все порты интерфейса Spark, хотя в настоящий момент запущено только 3 приложения - PullRequest
Новая
       51

CloudEra - Spark - при вызове циклически проходит через все порты интерфейса Spark, хотя в настоящий момент запущено только 3 приложения

2 голосов
/ 07 марта 2020

Для простого примера у нас на данный момент есть три запущенных задания. В сверхурочное время я видел в кластере 1 множество «Ghost Ports», где порт, скажем, 4040 мог использоваться в течение длительного времени, а теперь навсегда удерживается процессом-призраком.

Ящики моего кластера находятся в собственной VLAN, и все порты между ними открыты.

Вызов 

spark-shell

Выход 

20/03/06 12:54:21 WARN util.Utils: Service 'SparkUI' could not bind on port 4040. Attempting port 4041.
20/03/06 12:54:21 WARN util.Utils: Service 'SparkUI' could not bind on port 4041. Attempting port 4042.
20/03/06 12:54:21 WARN util.Utils: Service 'SparkUI' could not bind on port 4042. Attempting port 4043.
20/03/06 12:54:21 WARN util.Utils: Service 'SparkUI' could not bind on port 4043. Attempting port 4044.
20/03/06 12:54:21 WARN util.Utils: Service 'SparkUI' could not bind on port 4044. Attempting port 4045.
20/03/06 12:54:21 WARN util.Utils: Service 'SparkUI' could not bind on port 4045. Attempting port 4046.
20/03/06 12:54:21 WARN util.Utils: Service 'SparkUI' could not bind on port 4046. Attempting port 4047.
20/03/06 12:54:21 WARN util.Utils: Service 'SparkUI' could not bind on port 4047. Attempting port 4048.
20/03/06 12:54:21 WARN util.Utils: Service 'SparkUI' could not bind on port 4048. Attempting port 4049.
20/03/06 12:54:21 WARN util.Utils: Service 'SparkUI' could not bind on port 4049. Attempting port 4050.
20/03/06 12:54:21 WARN util.Utils: Service 'SparkUI' could not bind on port 4050. Attempting port 4051.
20/03/06 12:54:21 WARN util.Utils: Service 'SparkUI' could not bind on port 4051. Attempting port 4052.
20/03/06 12:54:21 WARN util.Utils: Service 'SparkUI' could not bind on port 4052. Attempting port 4053.
20/03/06 12:54:21 WARN util.Utils: Service 'SparkUI' could not bind on port 4053. Attempting port 4054.
20/03/06 12:54:21 WARN util.Utils: Service 'SparkUI' could not bind on port 4054. Attempting port 4055.
20/03/06 12:54:21 WARN util.Utils: Service 'SparkUI' could not bind on port 4055. Attempting port 4056.

У меня есть пробный

  1. Сброс поля
  2. Найдите рабочие места, выполнив поиск их PID с помощью команды grep Spark
  3. Использование команд CLI 'yarn application'
  4. Уничтожение сервера и агентов cloudera на главном / граничном узле Spark.

Могу ли я что-нибудь сделать, чтобы вернуть эти порты обратно?

1 Ответ

0 голосов
/ 07 марта 2020

Найден обходной путь для устранения проблемы. Похоже, что для нашей среды наши Windows VDI вращаются и не "полностью" выключаются по выходным. Из-за этого сторона Java держала действия открытыми, но YARN определял, что она закрыта, но не закрывала действие java.

Мой плохой обходной путь должен был выполняться: 

ps -aux | grep spark > jobs.log

Если вместо этого вы нажмете SPARK, он выдаст плохие результаты. Когда я заглянул внутрь бревна, я смог найти открытые свечи Spark с января и февраля. При выполнении команды ниже порты открылись. Говоря мудро, если с помощью CloudEra не выходите из своих искровых оболочек по CTRL + C, вам нужно сделать CTRL + D. 

kill -9 ${PID}

Оставив вопрос без ответа для тех, у кого есть лучший обходной путь.

...