Я использую потоковую структуру Spark 2.4.4. Я использую Spark с kubernetes. Но когда я включаю локальную контрольную точку в некоторой папке / tmp /, задания заканчиваются через 7-8 секунд. Если EFS смонтирована и на ней используется местоположение контрольной точки, то задания занимают более 5 минут и работают довольно нестабильно.
Снимок экрана можно найти на вкладке spark sql.