Когда Resource Manager связывается с Name Node и где в коде я могу его найти? - PullRequest
0 голосов
/ 06 декабря 2018

Мой вопрос больше связан с реальным кодом.Я работаю над Hadoop 2.7.7.

Кажется, я понимаю, что после того, как клиент подал заявку, Менеджер ресурсов должен назначить один мастер приложения для обработки приложения.

В этот момент, когда Resource Manager связывается с узлом имени для получения метаданных файлов, необходимых для обработки, в каком пакете и классе находится это сообщение?

Редактировать: В настоящее времяЯ смотрю на FifoScheduler.java в пакете org.apache.hadoop.yarn.server.resourcemanager.scheduler.fifo.Метод private void assignContainers (узел FiCaSchedulerNode) выбирает приложение из списка приложений fifo, у которых есть запрос на запуск контейнеров для узла.Поэтому логично, что я считаю, что к тому времени, когда fifoscheduler выбирает приложение из списка fifo, RM уже имеет информацию о файлах / расположениях файлов, необходимых для любого приложения в списке.Я посмотрел на все методы в иерархии вызовов для вышеупомянутого метода assignContainers () в FifoScheduler.java и не смог найти никаких подсказок относительно того, где и когда RM получает информацию о файлах (или метаданных файлов), необходимую для приложения.

Это лучшее, что я могу описать, где я смотрю в коде.Если вам нужна дополнительная информация, я с удовольствием предоставлю это.Я прошу прощения, если это неясно.

...