Траверса строк таблицы с Scrapy - PullRequest
2 голосов
/ 04 ноября 2019

Можно ли отсканировать строку из таблицы и изменить только столбец, чтобы получить последовательность чисел. В настоящее время я использую много переменных.

Пример:

response.xpath('/html/body/div/table/tr[6]/td[counter in range 2 - 9]/p/span/text()').extract()

Код:

class MainSpider(scrapy.Spider):
    name = "main-spider"
    start_urls = ['http://www.institutosantatereza.com.br/boletins/turma_3_ano_ensino_medio/1652.htm']


    def parse(self, response):
        nome = response.xpath('/html/body/div/table/tr[2]/td[2]/p/b/span/text()').extract()
        serie = response.xpath('/html/body/div/table/tr[2]/td[7]/p/b/span/text()').extract()


        portugues1 = response.xpath('/html/body/div/table/tr[6]/td[2]/p/span/text()').extract()
        portugues2 = response.xpath('/html/body/div/table/tr[6]/td[3]/p/span/text()').extract()
        portuguesMedia1 = response.xpath('/html/body/div/table/tr[6]/td[4]/p/span/text()').extract()


        yield{
            "nome": nome[0],
            "serie": serie[0],
            "url": response.url,
            "disciplinas":{
                "portugues":{
                    'nota1': portugues1[0],
                    'nota2': portugues2[0],
                    'media1': portuguesMedia1[0], 
                }
            }
        }

1 Ответ

1 голос
/ 04 ноября 2019

Нет необходимости использовать много переменных:

yield{
    "nome": nome[0],
    "serie": serie[0],
    "url": response.url,
    "disciplinas":{
        "portugues":{
            'nota1': response.xpath('/html/body/div/table/tr[6]/td[2]/p/span/text()').extract_first(), # or .get()
            'nota2': response.xpath('/html/body/div/table/tr[6]/td[3]/p/span/text()').get(), # or .extract_first()
        }
    }
}
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...