Как узнать значения mapred-сайта на кластере Amazon EMR? - PullRequest
0 голосов
/ 26 марта 2019

У меня были проблемы с памятью, и я посмотрел значения параметров по умолчанию, такие как:

mapreduce.map.memory.mb
mapreduce.reduce.memory.mb
mapreduce.map.java.opts

в документации Amazon и понял, что значения по умолчанию низкие.Итак, я добавил конфигурацию при создании кластера EMR следующим образом:

classification=mapred-site,properties=[mapreduce.map.memory.mb=4096,mapreduce.reduce.memory.mb=4096,mapreduce.map.java.opts=-Xmx3072m]

и создал кластер.Теперь, как мне проверить, действительно ли обновлены эти значения или нет?

1 Ответ

0 голосов
/ 12 апреля 2019

Вы можете воспользоваться одним из следующих способов, чтобы узнать подробности конфигурации вашей карты.

Метод1:

  • Войти в ECR-экземпляр EMR
  • Перейдите к пути конфигурации mapreduce (обычно / etc / hadoop / conf)
  • Откройте mapred-site.xml и найдите ваши свойства.

Method2:

Метод 3:

  • Надеемся, что вы также можете увидеть все свои классификации с консоли Amazon EMR.
...