Циклическое переключение IP-адресов в асинхронном веб-сканировании - PullRequest
0 голосов
/ 19 июня 2020

Я использую код вырезки ie, относящийся к типу "повара", чтобы асинхронно запрашивать HTML-коды с нескольких сотен URL-адресов, которые я скопировал с помощью другого фрагмента кода. Код работает отлично.

К сожалению, это приводит к тому, что мой IP-адрес блокируется из-за большого количества запросов.

Моя мысль - написать код для захвата некоторых IP-адресов прокси, разместить их в списке и циклически перебирать их случайным образом по мере отправки запросов. Предполагая, что у меня нет проблем с созданием этого списка, у меня возникли проблемы с концептуальным представлением о том, как вставить случайную ротацию этих IP-адресов прокси в мой асинхронный код запроса. Это мой код. один из случайных IP-адресов из ранее определенного списка. Как мне go это сделать? Я не уверен, что размещение всего кода в простом синхронном l oop приведет к поражению цели использования асинхронных запросов.

Если есть более простое решение проблемы блокировки доступа к веб-сайту для быстрого огня запросы, которые тоже были бы очень полезны. Обратите внимание, я новичок в программировании.

...