Hadoop YARN медленное выделение ресурсов для Spark - PullRequest
0 голосов
/ 20 октября 2019

У меня есть проблема, когда YARN очень медленно выделяет ресурсы для спарка, иногда уже поздно добавлять исполнителя. Это началось после отключения, после перезапуска кластера он начал работать медленно, хотя я перезагружал его несколько раз. Никаких настроек не было. Раньше все работало нормально.

enter image description here

На рисунке выше видно, что исполнитель был добавлен очень поздно. Иногда некоторые исполнители не были добавлены вообще. Снимок ниже, сделанный до отключения света.

enter image description here

Кто-нибудь может понять, что происходит? это все еще работает, но намного медленнее, чем раньше.

1 Ответ

0 голосов
/ 22 октября 2019

Пряжа имеет свойство динамического выделения ресурсов. Я не уверен, активировали ли вы это свойство или нет. Если включено, пряжа будет распределять ресурсы в зависимости от нагрузки.

...