Можно ли заменить lxml парсер Scrapy по умолчанию html5lib парсером Beautiful Soup? - PullRequest
Новая
       51

Можно ли заменить lxml парсер Scrapy по умолчанию html5lib парсером Beautiful Soup?

0 голосов
/ 08 мая 2019

Вопрос: Есть ли способ интегрировать парсер html5lib BeautifulSoup в проект scrapy - вместо lxml парсера по умолчанию scrapy?
Сбой парсера Scrapy (для некоторых элементов) моих страниц скраба.
Это происходит толькокаждые 2 из 20 страниц.

В качестве исправления я добавил парсер BeautifulSoup в проект (который работает).
При этом я чувствую, что удваиваю работу с условными и множественнымипарсеры ... в какой-то момент, в чем причина использования парсера Scrapy?
Код работает ... это похоже на хак.
Я не эксперт - есть ли более элегантный способ сделать это?

Заранее большое признание

Обновление:
Добавление класса промежуточного программного обеспечения в scrapy (из пакета python scrapy-beautifulsoup ) работает как шарм.Очевидно, что lxml от Scrapy не так надежен, как lxml от BeautifulSoup.Мне не пришлось прибегать к парсеру html5lib - который в 30 раз медленнее. 

class BeautifulSoupMiddleware(object):
    def __init__(self, crawler):
        super(BeautifulSoupMiddleware, self).__init__()

        self.parser = crawler.settings.get('BEAUTIFULSOUP_PARSER', "html.parser")

    @classmethod
    def from_crawler(cls, crawler):
        return cls(crawler)

    def process_response(self, request, response, spider):
        """Overridden process_response would "pipe" response.body through BeautifulSoup."""
        return response.replace(body=str(BeautifulSoup(response.body, self.parser)))

Оригинал: 

import scrapy
from scrapy.item import Item, Field
from scrapy.loader.processors import TakeFirst, MapCompose
from scrapy import Selector
from scrapy.loader import ItemLoader
from w3lib.html import remove_tags
from bs4 import BeautifulSoup


class SimpleSpider(scrapy.Spider):
    name = 'SimpleSpider'
    allowed_domains = ['totally-above-board.com']
    start_urls = [
        'https://totally-above-board.com/nefarious-scrape-page.html'
    ]

    custom_settings = {
        'ITEM_PIPELINES': {
            'crawler.spiders.simple_spider.Pipeline': 400
        }
    }

    def parse(self, response):
        yield from self.parse_company_info(response)
        yield from self.parse_reviews(response)

    def parse_company_info(self, response):
        print('parse_company_info')
        print('==================')

        loader = ItemLoader(CompanyItem(), response=response)
        loader.add_xpath('company_name',
                         '//h1[contains(@class,"sp-company-name")]//span//text()')

        yield loader.load_item()

    def parse_reviews(self, response):
        print('parse_reviews')
        print('=============')

        # Beautiful Soup
        selector = Selector(response)

        # On the Page (Total Reviews) # 49
        search = '//span[contains(@itemprop,"reviewCount")]//text()'
        review_count = selector.xpath(search).get()
        review_count = int(float(review_count))

        # Number of elements Scrapy's LXML Could find # 0
        search = '//div[@itemprop ="review"]'
        review_element_count =   len(selector.xpath(search))

        # Use Scrapy or Beautiful Soup?
        if review_count > review_element_count:

            # Try Beautiful Soup
            soup = BeautifulSoup(response.text, "lxml")
            root = soup.findAll("div", {"itemprop": "review"})
            for review in root:
                loader = ItemLoader(ReviewItem(), selector=review)
                review_text = review.find("span", {"itemprop": "reviewBody"}).text
                loader.add_value('review_text', review_text)
                author = review.find("span", {"itemprop": "author"}).text
                loader.add_value('author', author)

                yield loader.load_item()
        else:
            # Try Scrapy 
            review_list_xpath = '//div[@itemprop ="review"]'
            selector = Selector(response)
            for review in selector.xpath(review_list_xpath):
                loader = ItemLoader(ReviewItem(), selector=review)
                loader.add_xpath('review_text',
                                 './/span[@itemprop="reviewBody"]//text()')

                loader.add_xpath('author',
                                 './/span[@itemprop="author"]//text()')

                yield loader.load_item()

        yield from self.paginate_reviews(response)

    def paginate_reviews(self, response):
        print('paginate_reviews')
        print('================')

        # Try Scrapy
        selector = Selector(response)
        search = '''//span[contains(@class,"item-next")]
                    //a[@class="next"]/@href
                 '''
        next_reviews_link = selector.xpath(search).get()

        # Try Beautiful Soup
        if next_reviews_link is None:
            soup = BeautifulSoup(response.text, "lxml")
            try:
                next_reviews_link = soup.find("a", {"class": "next"})['href']
            except Exception as e:
                pass


        if next_reviews_link:
            yield response.follow(next_reviews_link, self.parse_reviews)

1 Ответ

2 голосов
/ 08 мая 2019

Это запрос общей функции для Parsel , библиотека Scrapy для очистки XML / HTML.

Однако вам не нужно ждать такой функциибыть реализованным.Вы можете исправить код HTML, используя BeautifulSoup , и использовать Parsel для фиксированного HTML: 

from bs4 import BeautifulSoup

# …

response = response.replace(body=str(BeautifulSoup(response.body, "html5lib")))
...