Как динамически генерировать start_urls при сканировании? - PullRequest
Новая
       9

Как динамически генерировать start_urls при сканировании?

23 голосов
/ 17 февраля 2012

Я сканирую сайт, который может содержать много start_urls, например: 

http://www.a.com/list_1_2_3.htm

Я хочу заполнить start_urls как [list_\d+_\d+_\d+\.htm], и извлекать элементы из URL, например, [node_\d+\.htm] во время сканирования.

Могу ли я использовать CrawlSpider для реализации этой функции? И как я могу генерировать start_urls динамически при сканировании?

Ответы [ 2 ]

42 голосов
/ 30 апреля 2012

Лучший способ динамически генерировать URL-адреса - переопределить метод start_requests для паука: 

from scrapy.http.request import Request

def start_requests(self):
      with open('urls.txt', 'rb') as urls:
          for url in urls:
              yield Request(url, self.parse)
14 голосов
/ 17 февраля 2012

Есть два вопроса:

1) да, вы можете реализовать эту функцию, используя правила, например, 

rules =(Rule(SgmlLinkExtractor(allow = ('node_\d+.htm')) ,callback = 'parse'))

предлагаемое чтение

2) да, вы можете генерировать start_urls динамически, start_urls представляет собой

список

например, >>> start_urls = ['http://www.a.com/%d_%d_%d' %(n,n+1,n+2) for n in range(0, 26)]

>>> start_urls

['http://www.a.com/0_1_2', 'http://www.a.com/1_2_3', 'http://www.a.com/2_3_4', 'http://www.a.com/3_4_5', 'http://www.a.com/4_5_6', 'http://www.a.com/5_6_7',  'http://www.a.com/6_7_8', 'http://www.a.com/7_8_9', 'http://www.a.com/8_9_10','http://www.a.com/9_10_11', 'http://www.a.com/10_11_12', 'http://www.a.com/11_12_13', 'http://www.a.com/12_13_14', 'http://www.a.com/13_14_15', 'http://www.a.com/14_15_16', 'http://www.a.com/15_16_17', 'http://www.a.com/16_17_18', 'http://www.a.com/17_18_19', 'http://www.a.com/18_19_20', 'http://www.a.com/19_20_21', 'http://www.a.com/20_21_22', 'http://www.a.com/21_22_23', 'http://www.a.com/22_23_24', 'http://www.a.com/23_24_25', 'http://www.a.com/24_25_26', 'http://www.a.com/25_26_27']
...