Перебрать список прокси селен python - PullRequest
0 голосов
/ 28 мая 2020
• 1000 сталкивается с тем, что прокси-серверы не повторяются, и некоторые прокси-серверы мертвы, поэтому вся программа останавливается.

1 Ответ

0 голосов
/ 28 мая 2020

Чтобы решить вашу проблему, вы можете реализовать подход, выбирая другой случайный прокси из вашего списка каждые четыре итерации и блок try и except для работы с мертвыми прокси, например:

import random

for i,user in enumerate(users):
    chrome_options = webdriver.ChromeOptions()
    if i % 4 == 0:
        proxy = random.choice(proxies)
    try:
        chrome_options.add_argument('--proxy-server=http://%s' % proxy)
        # continue with your scraping
    except Exception as e:
        print(e)

Вы можете легко улучшить этот фрагмент, например, отловив ошибку спецификаций c, когда вы столкнетесь с мертвым прокси и удалите его из своего списка (с .pop()), или добавив while l oop, чтобы повторить итерацию. после того, как вы столкнулись с ошибкой.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...