Вы можете использовать атрибут meta в своем запросе и передать ключ: значение
- 'dont_redirect': 'Правда
- 'handle_httpstatus_list': [301]
class RedirectSpider(scrapy.Spider):
name = 'redirect'
url = 'http://www.wayfair.com/outdoor/sb0/fire-pits-c215964.html/'
def start_requests(self):
yield scrapy.Request(
url=self.url,
meta={'dont_redirect': True, 'handle_httpstatus_list': [301]},
callback=self.parse,
)
def parse(self, response):
print(response.status)