наменоде в кластере oop и файлах edits_xxxxxx - PullRequest
0 голосов
/ 30 января 2020

У нас есть кластер hdp с 2 узлами имен

Каждый узел имен включает следующие папки

/var/hadoop/hdfs/namenode/current

Эта папка содержит 2736 файлов edits_xxxxxxx и fsimage.ckpt_xxxx файлов

Пример:

fsimage.ckpt_0000000001706732378
fsimage.ckpt_0000000001706822458
edits_0000000001794804572-0000000001794838163
edits_0000000001794838164-0000000001794838275

Вторая папка

/hadoop/hdfs/journal/hdfsha/current 

Включает 2365 файлов edits_xxxxxxx

Размер папки /var/hadoop/hdfs/namenode/current равен 542 ГБ А размер папки /hadoop/hdfs/journal/hdfsha/current, 498G

У меня вопрос, в чем причина огромного количества edits_xxxxxxxxxxxx в обеих папках? В наменоде

Второй - можно ли добавить некоторые настройки в HDFS CONFIG, чтобы уменьшить количество edits_xxxxxxxxxxxxxx файлов?

...