giraph терпит неудачу только на больших графах после предупреждения «вероятно, клиент закрыл сокет» - PullRequest
0 голосов
/ 22 октября 2018

Я использую giraph-1.3.0.-SNAPSHOT и hadoop-2.8.4 в кластере EC2, состоящем из 5 узлов (у каждого по 32 процессора и 60 ГБ оперативной памяти).

Если я даю маленькийвход в мой алгоритм реализован в giraph, он правильно работает.Когда я делаю большой ввод (например, https://snap.stanford.edu/data/web-NotreDame.html), я получаю это предупреждение, и через некоторое время мой прогон гирафа не выполняется.

WARN server.NIOServerCnxn: caught end of stream exception EndOfStreamException: Unable to read additional data from client sessionid  likely client has closed socket

Я думаю, что это связано с зоопарком, но я не уверен.

1 Ответ

0 голосов
/ 05 апреля 2019

Сколько памяти вы выделили для JVM, где работает Giraph?Это выглядит как типичная ошибка нехватки памяти

...