Ваш код немного сбивает с толку.Вам не нужно использовать оба phantomjs и firefox в качестве драйвера для селена.Какой из них вы собираетесь использовать?
Как я понял, вы хотели бы избежать обнаружения со страницы, с которой вы взаимодействуете.Обычно это больше беспокоит, если вы работаете с безголовым браузером , что имеет место при использовании phantomjs, но не при использовании firefox без явного указания ему работать в этом режиме, что, по-видимому, является вашим случаем.
Если у вас действительно есть проблемы такого рода, есть много способов попытаться смягчить это, начиная с изменения пользовательского агента, как вы упомянули.Предполагая, что вы хотите использовать Firefox, пример кода может быть следующим:
from selenium import webdriver
profile = webdriver.FirefoxProfile()
user_agent = 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_9_3) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/35.0.1916.47 Safari/537.36'
profile.set_preference("general.useragent.override", user_agent)
driver = webdriver.Firefox(profile)
MainLink="https://blog.feedspot.com/iot_blogs/"
driver.get(MainLink)
Кроме того, вы можете установить другой пользовательский агент каждый раз, когда вы делаете запрос, в сочетании с изменением IP-адреса, с которого запрашиваютсяконечно, но это не главное ...
Надеюсь, это поможет ...