Как полностью очистить Spark Session? - PullRequest
1 голос
/ 22 мая 2019

Мой вариант использования вращается вокруг перезапуска / очистки SparkSession для каждого выполнения задания. Когда мне нужно очистить SparkSession без перезапуска, я в настоящее время выполняю только sparkSession.catalog().clearCache();, но мне интересно, есть ли какие-либо другие объекты в сеансе Spark, которые мне нужно очистить, чтобы гарантировать, что никакая информация не будет перенесена на следующую выполнение.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...