Паук Scrapy по-разному ведет себя в разных средах - PullRequest
0 голосов
/ 14 июля 2020

Я написал Scrapy spider для очистки, но столкнулся с проблемой.

Если я запускаю паука со своего локального компьютера, он работает отлично, но когда я развертываю его на капле DigitalOcean и запускаю оттуда, я получить ответ 444 «СОЕДИНЕНИЕ ЗАКРЫТО БЕЗ ОТВЕТА» от целевого сайта.

Я попытался изменить каплю на случай, если IP-адрес капли был заблокирован (паук завершил 4, 5 запускается раньше), но проблема остается.

Я ищу способ устранить проблему.

...