Передача пакетов Python, извлеченных из удаленного репозитория в spark submit / shell - PullRequest
0 голосов
/ 28 февраля 2019

У меня есть библиотека python, упакованная в виде zip-файла, доступного в удаленном репозитории (Artifactory), и я хотел бы передать ее в путь python для spark-shell или spark-submit, используя координаты пакета (имя иномер версии).В настоящее время я делаю то же самое с jar-файлами:

spark-shell --repositories https://artifactory.com/maven --jars group:jar-name:1.0

Я хотел бы сделать что-то вроде

spark-shell --repositories https://artifactory.com/pypi --jars zipname==1.0

, что, очевидно, не работает, так как repositories должно бытьрепозиторий maven и jars должны быть именем фляги

Я знаю, что могу заранее скачать zip-файл и добавить его в PYTHONPATH, но было бы лучше, если бы я мог напрямую указывать на него через координаты

1 Ответ

0 голосов
/ 04 марта 2019

Я нашел способ, вы можете передать удаленный путь к --py-files, как --py-files http://host:path_to_file/library.egg

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...