контрольная точка искры: ошибка java .io.FileNotFoundException - PullRequest
0 голосов
/ 13 марта 2020

У меня есть текущий конвейер, в котором я делаю несколько преобразований в свой фрейм данных.

Важно вставить контрольные точки, чтобы обеспечить приемлемое время выполнения.

Однако время от времени я получаю эту ошибку с любой из контрольных точек:

Job aborted due to stage failure: Task creation failed: java.io.FileNotFoundException

No such file or directory: /checkpoints/...../rdd-1002/part-00003

Можете ли вы предложить.

1 Ответ

0 голосов
/ 13 марта 2020

Это похоже на эту проблему? Сложный лог c перезаписывает СДР, в то время как сбойный процесс пытается его восстановить.

Spark не может найти данные контрольных точек в HDFS после сбоя исполнителя

...