Hadoop на Amazon EC2: трекер заданий не запускается должным образом - PullRequest
3 голосов
/ 05 мая 2010

Мы запускаем Hadoop в кластере Amazon EC2. Мы запускаем master, slave и подключаем тома ebs и, наконец, ожидаем, когда начнут работать Hadoop Jobtracker, TaskTracker и т. Д., И у нас будет время ожидания 3600 секунд. Мы замечаем, что в 50% случаев трекер работы не может запуститься до истечения времени ожидания. Причина в том, что hdfs не инициализирован должным образом и все еще находится в безопасном режиме, и трекер заданий не может запуститься. Я заметил несколько проблем с соединением между узлами на EC2, когда я пытался вручную пинговать подчиненных.

Кто-нибудь сталкивался с подобной проблемой и знает, как ее решить?

1 Ответ

0 голосов
/ 06 мая 2010

Я не уверен, связана ли эта проблема с Amazon EC2.У меня тоже была эта проблема очень часто - хотя у меня была псевдораспределенная установка на моей машине.

В этих случаях я мог отключить безопасный режим вручную и безопасно.
Попробуйте эту команду: bin/hadoop dfsadmin -safemode leave

Я думаю, вы не можете ошибаться здесь.Похоже, глючная особенность hadoop.Я использовал 0.18.3, какую версию вы запускаете?

...