Использование новой среды python для рабочих DASK - PullRequest
2 голосов
/ 21 июня 2020

Я запускаю свой сервер DASK на hp c, где у меня есть все основные c необходимые модули для запуска dask, и я загружаю этот модуль в блокнот jupyter. Я хотел бы запустить некоторую задачу обработки, используя dask и модули, которые недоступны в базовой среде dask. Для этого у меня есть собственная среда, созданная с помощью conda. Есть ли простой способ связать эту новую среду кондоминиума с клиентом dask перед запуском моей задачи.

Я пробовал использовать

from dask.distributed import Client,LocalCluster
client = Client(scheduler_file=schedule_json)
print(client)
client.upload_file('condaenvfile.tar')

, также я пробовал использовать client.run(os.system,'conda install -c conda-forge package -y'), но все же я я получаю сообщение о том, что модуль не найден.

Я проясняю свою проблему, чтобы я мог выяснить, есть ли другие альтернативы для решения таких проблем.

import skimage
import dask.distributed import Client

client=Client(schedule_json)


def myfunc(param):
   process using skimage


r=[]
for in [list]:
     myres=dask.delayed(myfun)(param)
     r.append(myres)

allres=dask.compute(*r)

В приведенном выше примере у меня есть модуль dask, работающий на hp c среда, которую я не контролирую, просто могу загрузить этот модуль. У меня есть собственная среда кондоминиума в моем профиле пользователя. Мне нужно запустить какой-то процесс, используя skilearn (и другие модули), используя рабочий dask. Какой альтернативой можно было бы обойти такую ​​проблему?

1 Ответ

3 голосов
/ 22 июня 2020

После запуска dask вы не можете переключить базовую среду Python. Вместо этого вы должны создать среду со всеми необходимыми библиотеками и зависимостями и запустить ее из вновь созданного env. Чтобы помочь с созданием среды, я бы рекомендовал использовать conda-pack . Если вы хотите изменить существующую среду, вы можете это сделать, но я бы не рекомендовал это. Если вас глубоко волнует этот вопрос, вас может заинтересовать https://github.com/dask/distributed/issues/3111

...