Запустите Scrapy и Splash от Docker - PullRequest
0 голосов
/ 21 сентября 2018

Вопрос новичка: у меня есть всплеск, работающий в док-контейнере, и утилита scrapy, запущенная на моей локальной машине разработки.Теперь мне нужно продвинуть это в среду AWS через докер-контейнеры, но я не могу понять, как подключить контейнеры scrapy и splash?

Я предполагаю, что мне нужно создать стек докеров, ноэто насколько я знаю: o (

1 Ответ

0 голосов
/ 25 сентября 2018

В конце концов это было довольно просто.

docker network create crawler-network

docker run --network=crawler-network --name=splash --hostname=splash --memory=6GB --restart unless-stopped -d -p 8050:8050 scrapinghub/splash --max-timeout 600 --slots 10

docker run --network=crawler-network --name=crawler --hostname=crawler -it conda

docker network inspect crawler-network

Затем мы изменили настройки всплеска scrapy, указав http://splash:8060, вместо http://localhost:8050

...