Проблемы с переименованием загруженных изображений в соответствии с требованиями клиента - PullRequest
0 голосов
/ 19 февраля 2019

Я создал скрипт с использованием модуля python scrapy для загрузки и переименования изображений фильмов с торрент-сайта и сохранения их в папке в рамках проекта scrapy.Когда я запускаю свой скрипт как есть, я обнаруживаю, что он безошибочно загружает изображения в эту папку.

На данный момент скрипт переименовывает эти изображения, используя удобную часть от request.url до pipelines.py.

Как я могу переименовать эти загруженные изображения через pipelines.py, используя их имена фильмов из переменной movie, определенной в методе get_images()?

паук содержит:

from scrapy.crawler import CrawlerProcess
import scrapy, os

class yify_sp_spider(scrapy.Spider):
    name = "yify"
    start_urls = ["https://yts.am/browse-movies"]

    custom_settings = {
        'ITEM_PIPELINES': {'yify_spider.pipelines.YifySpiderPipeline': 1},
        'IMAGES_STORE': r"C:\Users\WCS\Desktop\yify_spider\yify_spider\spiders\Images",
    }

    def parse(self, response):
        for item in response.css(".browse-movie-wrap"):
            movie_name = ''.join(item.css(".browse-movie-title::text").get().split())
            img_link = item.css("img.img-responsive::attr(src)").get()
            yield scrapy.Request(img_link, callback=self.get_images,meta={'movie':movie_name})

    def get_images(self, response):
        movie = response.meta['movie']
        yield {
            "movie":movie,
            'image_urls': [response.url],
        }

if __name__ == "__main__":
    c = CrawlerProcess({
        'USER_AGENT': 'Mozilla/5.0',   
    })
    c.crawl(yify_sp_spider)
    c.start()

pipelines.py содержит:

from scrapy.pipelines.images import ImagesPipeline

class YifySpiderPipeline(ImagesPipeline):

    def file_path(self, request, response=None, info=None):
        image_name = request.url.split('/')[-2]+".jpg"
        return image_name

Один из таких загруженных образов должен выглядеть как Obsession.jpg после завершения переименования.

1 Ответ

0 голосов
/ 20 февраля 2019

Переопределите get_media_requests() и добавьте необходимые данные в запрос.Затем получите эти данные из запроса в file_path().

Например:

class YifySpiderPipeline(ImagesPipeline):

    def get_media_requests(self, item, info):
        # Here we add the whole item, but you can add only a single field too.
        return [Request(x, meta={'item': item) for x in item.get(self.images_urls_field, [])]

    def file_path(self, request, response=None, info=None):
        item = request.meta.get('item')
        movie = item['movie']
        # Construct the filename.
        return image_name
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...