потоковая структура искры с efs вызывает задержку в работе - PullRequest
0 голосов
/ 15 февраля 2020

Я использую потоковую структуру Spark 2.4.4. Я использую Spark с kubernetes. Но когда я включаю локальную контрольную точку в некоторой папке / tmp /, задания заканчиваются через 7-8 секунд. Если EFS смонтирована и на ней используется местоположение контрольной точки, то задания занимают более 5 минут и работают довольно нестабильно.

Снимок экрана можно найти на вкладке spark sql. enter image description here

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...