Можно ли выполнить завершение в simplecrawler (npm) вручную? - PullRequest
0 голосов
/ 27 апреля 2020

Я использую Simplecrawler . Я хотел бы захватить только 50 URL. К сожалению, crawler.maxDepth не решает проблему определения точного количества / количества страниц. Любой возможный способ достичь этого? Можем ли мы запустить событие полностью вручную?

1 Ответ

0 голосов
/ 27 апреля 2020

Ну, я получил ответ сам.

Мы можем добавить следующее в качестве условия выхода.

 var maxNumPages = 50;
  crawler.addFetchCondition(function(queueItem) {
    return crawler.queue.length < maxNumPages;
  });

maxNumPages примет количество страниц, которые нужно получить.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...