Как очистить новую связь с Scrapy

Question

Я недавно начал использовать Scrapy, так что я не настолько опытен в этом, так что это действительно вопрос новичка.

Я выбрал какое-то случайное соглашение для практики, я выбрал имена и номера кабин, но я также хочу ссылки от компаний, которые находятся в новом окне, я нашел и сохранил ссылку из якорных тегов, но я не знаю, как очистить эти новые ссылки, любая помощь или направление будут хороши

import scrapy

class ConventionSpider(scrapy.Spider):
    name = 'convention'
    allowed_domains = ['events.jspargo.com/ASCB18/Public/Exhibitors.aspx?sortMenu=102003']
    start_urls = ['https://events.jspargo.com/ASCB18/Public/Exhibitors.aspx?sortMenu=102003']

    def parse(self, response):
        name = response.xpath('//*[@class="companyName"]')
        number = response.xpath('//*[@class="boothLabel"]')
        link = response.xpath('//*[@class="companyName"]')
        for row, row1, row2 in zip(name, number, link):
            company = row.xpath('.//*[@class="exhibitorName"]/text()').extract_first()
            booth_num = row1.xpath('.//*[@class="boothLabel aa-mapIt"]/text()').extract_first()
            url = row2.xpath('.//a/@href').extract_first()

            yield {'Company': company,'Booth Number': booth_num}

Answer 1

Гораздо более простой способ сделать это - создать подкласс класса scrapy.spiders.CrawlSpider и указать атрибут rule

from scrapy.spiders import CrawlSpider, Rule
from scrapy.linkextractors import LinkExtractor

class ConventionSpider(CrawlSpider):
    name = 'convention'
    allowed_domains = ['events.jspargo.com/ASCB18/Public/Exhibitors.aspx?sortMenu=102003']
    start_urls = ['https://events.jspargo.com/ASCB18/Public/Exhibitors.aspx?sortMenu=102003']

    rules = (
    Rule(LinkExtractor(allow=('', ), # allow all links that match a given regex
        deny=('')), # deny all links that match given regex
        callback='parse_item', # function that gets called for each extracted link
        follow=True),
    )

    def parse_item(self, response):
        name = response.xpath('//*[@class="companyName"]')
        number = response.xpath('//*[@class="boothLabel"]')
        link = response.xpath('//*[@class="companyName"]')
        for row, row1, row2 in zip(name, number, link):
            company = row.xpath('.//*[@class="exhibitorName"]/text()').extract_first()
            booth_num = row1.xpath('.//*[@class="boothLabel aa-mapIt"]/text()').extract_first()
            # url = row2.xpath('.//a/@href').extract_first()
            # No need to parse links because we are using CrawlSpider

            yield {'Company': company,'Booth Number': booth_num}

Убедитесь, что вы не используете parse в качестве обратного вызова, хотя, поскольку scrapy.spiders.CrawlSpider использует метод parse для реализации своей логики.

Answer 2

В вашем коде есть проблема с отступом функции класса parse_page, и вы называете ее "parse", а не "parse_page" по ошибке.Это может быть причиной того, что ваш код не работает должным образом.Измененный код показан ниже, и он хорошо работает для меня:

import scrapy
from scrapy import Request

class ConventionSpider(scrapy.Spider):
    name = 'Convention'
    allowed_domains = ['events.jspargo.com/ASCB18/Public/Exhibitors.aspx?sortMenu=102003']
    start_urls = ['https://events.jspargo.com/ASCB18/Public/Exhibitors.aspx?sortMenu=102003']

    def parse(self, response):
        name = response.xpath('//*[@class="companyName"]')
        number = response.xpath('//*[@class="boothLabel"]')
        link = response.xpath('//*[@class="companyName"]')
        for row, row1, row2 in zip(name, number, link):
            company = row.xpath('.//*[@class="exhibitorName"]/text()').extract_first(),
            booth_num = row1.xpath('.//*[@class="boothLabel aa-mapIt"]/text()').extract_first()

            next_page_url = row2.xpath('.//a/@href').extract_first()
            next_page_url = response.urljoin(next_page_url)
            yield Request(next_page_url, callback=self.parse_page, meta={'Company': company, 'Booth Number': booth_num}, dont_filter=True)

    def parse_page(self, response):
        company = response.meta.get('Company')
        booth_num = response.meta.get('Booth Number')
        website = response.xpath('//a[@class="aa-BoothContactUrl"]/text()').extract_first()
        yield {'Company': company, 'Booth Number': booth_num, 'Website': website}

Answer 3

См. Это для справки https://github.com/NilanshBansal/Craigslist_Scrapy/blob/master/craigslist/spiders/jobs.py

import scrapy
from scrapy import Request

class ConventionSpider(scrapy.Spider):
name = 'convention'
# allowed_domains = ['events.jspargo.com/ASCB18/Public/Exhibitors.aspx?sortMenu=102003']
start_urls = ['https://events.jspargo.com/ASCB18/Public/Exhibitors.aspx?sortMenu=102003']

def parse(self, response):
    name = response.xpath('//*[@class="companyName"]')
    number = response.xpath('//*[@class="boothLabel"]')
    link = response.xpath('//*[@class="companyName"]')
    for row, row1, row2 in zip(name, number, link):
        company = row.xpath('.//*[@class="exhibitorName"]/text()').extract_first()
        booth_num = row1.xpath('.//*[@class="boothLabel aa-mapIt"]/text()').extract_first()
        url = row2.xpath('.//a/@href').extract_first()

        yield Request(url,callback=self.parse_page,meta={'Url':url,'Company': company,'Booth_Number': booth_num)

def parse_page(self,response):
    company = response.meta.get('Company')
    booth_num = response.meta.get('Booth Number')
    website = response.xpath('//a[@class="aa-BoothContactUrl"]/text()').extract_first()

    yield {'Company': company,'Booth Number': booth_num, 'Website': website}

Редактировать: Прокомментировать строку allow_domains, чтобы позволить сканеру работать и в других доменах.

В ответ на ваш код на https://stackoverflow.com/a/52792350