Scrapy Crawl ValueError - PullRequest
       12

Scrapy Crawl ValueError

0 голосов
/ 08 ноября 2019

Я новичок в питоне и в scrapy. Я следовал за учебником, чтобы иметь scrap ползать quotes.toscrape.com.

Я ввел в код именно то, как оно есть в учебнике, но я продолжаю получать ValueError: invalid hostname: когда я запускаю кавычки сканирования. Я делаю это в Pycharm на Mac компьютере.

Я пробовал делать одинарные и двойные кавычки вокруг раздела URL в start_urls = [], но это не исправило ошибку.

Вот как выглядит код:

import scrapy

class QuoteSpider(scrapy.Spider):
    name = 'quotes'
    start_urls = [
        'http: // quotes.toscrape.com /'
    ]

    def parse(self, response):
        title = response.css('title').extract()
        yield {'titletext':title}

Предполагается, что он очищает сайт от названия.

Вот как выглядит ошибка:

2019-11-08 12:52:42 [scrapy.core.engine] INFO: Spider opened
2019-11-08 12:52:42 [scrapy.extensions.logstats] INFO: Crawled 0 pages (at 0 pages/min), scraped 0 items (at 0 items/min)
2019-11-08 12:52:42 [scrapy.extensions.telnet] INFO: Telnet console listening on 127.0.0.1:6023
2019-11-08 12:52:42 [scrapy.downloadermiddlewares.robotstxt] ERROR: Error downloading <GET http:///robots.txt>: invalid hostname: 
Traceback (most recent call last):
  File "/Users/newuser/PycharmProjects/ScrapyTutorial/venv/lib/python2.7/site-packages/scrapy/core/downloader/middleware.py", line 44, in process_request
    defer.returnValue((yield download_func(request=request, spider=spider)))
ValueError: invalid hostname: 
2019-11-08 12:52:42 [scrapy.core.scraper] ERROR: Error downloading <GET http:///%20//%20quotes.toscrape.com%20/>
Traceback (most recent call last):
  File "/Users/newuser/PycharmProjects/ScrapyTutorial/venv/lib/python2.7/site-packages/scrapy/core/downloader/middleware.py", line 44, in process_request
    defer.returnValue((yield download_func(request=request, spider=spider)))
ValueError: invalid hostname: 
2019-11-08 12:52:42 [scrapy.core.engine] INFO: Closing spider (finished)

1 Ответ

1 голос
/ 08 ноября 2019

Не используйте пробелы для URL!

start_urls = [
    'http://quotes.toscrape.com/'
]
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...