как сделать контекст sc spark глобальным для всех модулей без перехода к функции - PullRequest
0 голосов
/ 08 ноября 2019

У меня есть сценарий, в котором я использую log4j для целей отладки. Ниже приведены мои начальные строки

log4jLogger = sc._jvm.org.apache.log4j
log = log4jLogger.LogManager.getLogger(__name__)

Теперь мне пришлось использовать протоколирование (log.info () и т. Д.) В модуле, который не являетсяподвергается переменной SC. Может кто-нибудь предложить способ сделать это, не передавая sparkcontext sc каждой функции в модуле, и инициализировать log4j в одном общем месте, чтобы я мог использовать log_info для разных функций и модулей.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...