Чтобы решить вашу проблему, вы можете реализовать подход, выбирая другой случайный прокси из вашего списка каждые четыре итерации и блок try
и except
для работы с мертвыми прокси, например:
import random
for i,user in enumerate(users):
chrome_options = webdriver.ChromeOptions()
if i % 4 == 0:
proxy = random.choice(proxies)
try:
chrome_options.add_argument('--proxy-server=http://%s' % proxy)
# continue with your scraping
except Exception as e:
print(e)
Вы можете легко улучшить этот фрагмент, например, отловив ошибку спецификаций c, когда вы столкнетесь с мертвым прокси и удалите его из своего списка (с .pop()
), или добавив while
l oop, чтобы повторить итерацию. после того, как вы столкнулись с ошибкой.