Задание прервано из-за сбоя этапа: задача не сериализуема: java.io.NotSerializableException - PullRequest
0 голосов
/ 24 февраля 2019

Я использую Apache Toree ядро ​​scala для Jupyter Notebook, в котором используется конфигурация spark (master=yarn).

При отправке работы я получаю следующее исключение.Конечно, локально все работает без проблем в IDE.

Моя проблема в том, что я не понимаю, как прочитать трассировку и найти причину.

Причина:java.io.NotSerializableException: $ line25. $ read $$ iw $$ iw $$ iw $$ iw $$ iw $$ iw $$ iw $$ iw $ Стог сериализации $ - объект не сериализуем (класс: $ line25. $ read $$ iw $$ iw $$ iw $$ iw $$ iw $$ iw $$ iw $$ iw $ Агрегация $, значение: $ line25. $ read $$ iw $$ iw $$ iw $$ iw$$ iw $$ iw $$ iw $$ iw $ Aggregation $ @ 25bbaa87) - поле (класс: $ line25. $ read $$ iw $$ iw $$ iw $$ iw $$ iw $$ iw $$ iw $$ iw $ Aggregation $$ anonfun $ 6, имя: $ external, тип: класс $ line25. $ read $$ iw $$ iw $$ iw $$ iw $$ iw $$ iw $$ iw $$ iw $ Aggregation $)- объект (класс $ line25. $ read $$ iw $$ iw $$ iw $$ iw $$ iw $$ iw $$ iw $$ iw $ Агрегация $$ anonfun $ 6,) - ​​поле (класс: org.apache.spark.sql.execution.MapElementsExec, имя: func, тип: класс java.lang.Object) - объект (класс org.apache.spark.sql.execution.MapElementsExec, MapElements, объект № 73: scala.Tuple2

...