Почему я вижу OOM в моем задании на искру, когда общий размер ввода увеличивается, но размер ввода для одной задачи остается неизменным? - PullRequest
0 голосов
/ 15 сентября 2018

Я запускаю искровое задание, которое получает данные, уже разделенные на разделы размером 10 МБ каждый.

Когда я запускаю это искровое задание с небольшим общим входным размером, я не вижу никакой нехватки памяти (OOM), но когда я запускаю это искровое задание с большим общим входным размером, я вижу OOM.

В обоих случаях исполнителям выделяется одинаковый объем памяти. В обоих случаях на одного исполнителя приходится 2 ядра. В обоих случаях каждому заданию присваивается один и тот же размер ввода, поскольку он разделен на разделы размером 10 МБ.

Есть ли у вас идеи, почему я вижу OOM, когда я запускаю это задание с большим общим размером ввода?

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...