Интеграция Hive / HBase - Сессия Zookeeper немедленно закрывается - PullRequest
Новая
       16

Интеграция Hive / HBase - Сессия Zookeeper немедленно закрывается

7 голосов
/ 04 февраля 2012

У нас есть кластер из 8 узлов, использующий CDH3u2, настроенный с помощью Cloudera Manager. У нас есть выделенный главный узел, на котором запущен наш единственный экземпляр zookeeper. Когда я настраиваю куст для запуска локального hadoop, запускаемого с главного узла, у меня нет проблем с получением данных из HBase. Когда я запускаю распределенную карту / уменьшение через куст, я получаю следующую ошибку, когда подчиненные узлы подключаются к zookeeper.

HBase может подключиться к ZooKeeper, но соединение немедленно закрывается. Это может быть признаком того, что на сервере слишком много подключений (по умолчанию 30).

Мы попытались установить максимальное количество подключений выше (мы даже попытались снять ограничение). Это кластер разработки, в котором очень мало пользователей, я знаю, что проблема не в том, что там слишком много подключений (я могу подключиться к zookeeper с подчиненных узлов, используя ./zkCli).

Журналы на стороне сервера указывают, что сессия была прервана клиентом.

Клиентский журнал hadoop сообщает: 'Вызывается: org.apache.zookeeper.KeeperException $ ConnectionLossException: KeeperErrorCode = ConnectionLoss for / hbase

Есть идеи, почему я не могу поддерживать соединение с zookeeper через Hive Map / Reduce?

Конфигурации для hbase и zookeeper: 

# Autogenerated by Cloudera SCM on Wed Dec 28 08:42:23 CST 2011
tickTime=2000
initLimit=10
syncLimit=5
dataDir=/var/zookeeper
clientPort=2181
maxClientCnxns=1000
minSessionTimeout=4000
maxSessionTimeout=40000

HBase Site-XML - это: 

<property>
  <name>hbase.rootdir</name>
  <value>hdfs://alnnimb01:8020/hbase</value>
  <description>The directory shared by region servers. Should be fully-qualified to include the filesystem to use. E.g: hdfs://NAMENODE_SERVER:PORT/HBASE_ROOTDIR</description>
</property>

<property>
  <name>hbase.master.port</name>
  <value>60000</value>
  <description>The port master should bind to.</description>
</property>

<property>
  <name>hbase.cluster.distributed</name>
  <value>true</value>
  <description>The mode the cluster will be in. Possible values are false: standalone and pseudo-distributed setups with managed Zookeeper true: fully-distributed with unmanaged Zookeeper Quorum (see hbase-env.sh)</description>
</property>


<property>
  <name>hbase.master.info.port</name>
  <value>60010</value>
  <description>The port for the hbase master web UI Set to -1 if you do not want the info server to run.</description>
</property>
















<property>
  <name>zookeeper.znode.parent</name>
  <value>/hbase</value>
  <description>Root ZNode for HBase in ZooKeeper. All of HBase's ZooKeeper files that are configured with a relative path will go under this node. By default, all of HBase's ZooKeeper file path are configured with a relative path, so they will all go under this directory unless changed.</description>
</property>

<property>
  <name>zookeeper.znode.rootserver</name>
  <value>root-region-server</value>
  <description>Path to ZNode holding root region location. This is written by the master and read by clients and region servers. If a relative path is given, the parent folder will be ${zookeeper.znode.parent}. By default, this means the root location is stored at /hbase/root-region-server.</description>
</property>


  <property>
    <name>hbase.zookeeper.property.clientPort</name>
    <value>2181</value>
    <description>The ZooKeeper client port to which HBase clients will     connect</description>
  </property>

  <property>
<name>hbase.zookeeper.quorum</name>
<value>alnnimb01.aln.experian.com</value>
<description>Comma separated list of servers in the ZooKeeper Quorum. For example, "host1.mydomain.com,host2.mydomain.com,host3.mydomain.com".</description>

Ответы [ 4 ]

4 голосов
/ 13 февраля 2012

Оказывается, что Map / Reduce, представленный Hive, пытается подключиться к zookeeper на «localhost», независимо от того, как zookeeper.quorom настроен в файле конфигурации. Я изменил / etc / hosts, чтобы псевдоним 'localhost' указывал на IP моего главного узла, и соединение с zookeeper сохраняется. Все еще ищу лучшее разрешение, но пока это будет работать.

3 голосов
/ 03 апреля 2012

Я понял это. Это была проблема конфигурации (как я и подозревал). Решение было:

-set "hbase.zookeeper.quorum" в "hive-site.xml" и поместить его в каталог "hadoop-conf"

Что сбило меня с толку, так это то, что в hive-default.xml нет ' hbase .zookeeper.quorum'. Я играл с ' hive .zookeeper.quorum', неправильная конфигурация которого была изменена.

1 голос
/ 27 марта 2012

Извините за публикацию нового ответа. Я хотел прокомментировать предыдущий ответ, но пользовательский интерфейс комментирования, похоже, исчез>. <... </p>

В любом случае, я хотел сказать, что у меня та же проблема, и она решается путем взлома / etc / hosts, но это выглядит как очень грязное решение ...

Кто-нибудь придумал способ исправить это чисто ... ??

Спасибо :)!

0 голосов
/ 23 мая 2018

У меня точно такая же проблема.Я использовал следующую команду conf для запуска hive cli, и она отлично работает. 

hive --hiveconf hbase.zookeeper.quorum={zk-host}

Вам следует настроить HBase на использование внешнего zookeeper и заменить {zk-host} на host zookeeper.Я все еще ищу, как решить эту проблему при использовании jdbc для доступа к кусту.

...