Изменить расположение сервера для HDFS - PullRequest
0 голосов
/ 30 января 2020

Я пытаюсь следовать руководству здесь: https://www.quickprogrammingtips.com/big-data/how-to-install-hadoop-on-mac-os-x-el-capitan.html, но получаю странную ошибку при попытке запустить строку

sbin/start-dfs.sh

Это не вызывает никаких нареканий когда я запускаю скрипт, но наменоде фактически не запускается. Когда я пошел, чтобы проверить журналы, я увидел эту ошибку:

2020-01-30 13:30:52,700 INFO org.apache.hadoop.http.HttpServer2: HttpServer.start() threw a non Bind IOException
java.net.BindException: Port in use: censoredsite.com:0
    at org.apache.hadoop.http.HttpServer2.openListeners(HttpServer2.java:995)
    at org.apache.hadoop.http.HttpServer2.start(HttpServer2.java:932)
    at org.apache.hadoop.hdfs.server.namenode.NameNodeHttpServer.start(NameNodeHttpServer.java:171)
    at org.apache.hadoop.hdfs.server.namenode.NameNode.startHttpServer(NameNode.java:834)
    at org.apache.hadoop.hdfs.server.namenode.NameNode.initialize(NameNode.java:692)
    at org.apache.hadoop.hdfs.server.namenode.NameNode.<init>(NameNode.java:898)
    at org.apache.hadoop.hdfs.server.namenode.NameNode.<init>(NameNode.java:877)
    at org.apache.hadoop.hdfs.server.namenode.NameNode.createNameNode(NameNode.java:1603)
    at org.apache.hadoop.hdfs.server.namenode.NameNode.main(NameNode.java:1671)
Caused by: java.net.BindException: Can't assign requested address
    at sun.nio.ch.Net.bind0(Native Method)
    at sun.nio.ch.Net.bind(Net.java:433)
    at sun.nio.ch.Net.bind(Net.java:425)
    at sun.nio.ch.ServerSocketChannelImpl.bind(ServerSocketChannelImpl.java:223)
    at sun.nio.ch.ServerSocketAdaptor.bind(ServerSocketAdaptor.java:74)
    at org.mortbay.jetty.nio.SelectChannelConnector.open(SelectChannelConnector.java:216)
    at org.apache.hadoop.http.HttpServer2.openListeners(HttpServer2.java:990)

, которой предшествовала эта строка ранее:

2020-01-30 13:30:52,359 INFO org.apache.hadoop.hdfs.DFSUtil: Starting Web-server for hdfs at: http://censoredsite.com/archive:50070

Кажется, что веб-сервер для HDFS каким-то образом Было установлено, что это не должно быть, я искал в Интернете, но я не мог найти, что это значение должно быть правильно (я предполагаю, localhost?) ИЛИ как на самом деле изменить его в файлах конфигурации.

Другая интересная вещь заключается в том, что этот «цензурский сайт» на самом деле… непристойный сайт, который я посещал несколько лет go. Я абсолютно не представляю, как ему удалось проникнуть в мои подробности конфигурации HDFS, и очень переживаю, что это каким-то образом проникло в мой компьютер. Кто-нибудь сейчас, как явно изменить местоположение org. apache .had oop .hdfs.DFSUtil? Спасибо.

1 Ответ

0 голосов
/ 02 февраля 2020

Звучит так, как будто он попал в ваш файл / etc / hosts как отображение сайта ...

Однако способ изменить адрес есть в hdfs-site. xml

dfs.namenode.http-address

https://hadoop.apache.org/docs/r2.7.3/hadoop-project-dist/hadoop-hdfs/hdfs-default.xml

В качестве альтернативы, установите Had oop в виртуальной машине или загрузите быстрые запуска Cloudera, где все предварительно настроено

...