Рекурсивный цикл с обещаниями гусеничного NodeJS

Question

Я пытаюсь использовать Recursive Loop и Promises, чтобы поцарапать веб-сайт.Но это не удается .. Он делает запрос только для первой страницы, а на второй программа перестает давать мне необоснованное предупреждение об отказе от обещания

У меня есть три файла JS:

1. scrapeAll.js (рекурсивный цикл, вызывающий scrapePage.js)
2. scrapePage.js
3. scrapeComponents.js

scrapeAll.js:

var indexPage = 0;

scrapePage(indexPage).then((json)=>{
    console.log(JSON.stringify(json, null, 4));
    if(indexPage === Number.MAX_SAFE_INTEGER){
        console.log("MAX SAFE INTEGER");
        return;
    }
    save(json);
    indexpage++;
    scrapePage(indexPage);
}).catch((data)=>{
    console.log(data);
    if(indexPage === Number.MAX_SAFE_INTEGER){
        console.log("MAX SAFE INTEGER");
        return;
    }
    indexPage++;
    scrapePage(indexPage);
});

ScrapePage.JS

let makeRequestCounter = 0;


function scrapePage(number) {
    return new Promise((resolve, reject) => {

        let url = URL + number;

        let options = {
            url: url,
            headers: {
                Host: SITE,
                Connection: "keep-alive",
                Accept: "text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8",
                "Accept-Language": "it-IT,it;q=0.9,en-US;q=0.8,en;q=0.7",
                "Cache-Control": "max-age=0",
                "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.92 Safari/537.36",
                "Cookie": restoreCookieToString()
            }
        };

        makeRequest(options).then((jsonData) => {
            resolve(jsonData);
        }).catch((error) => {
                //REQUEST_LIMIT_EXCEEDED
                if (error === CONSTANTS.REQUEST_LIMIT_EXCEEDED) {
                    reject(CONSTANTS.REQUEST_LIMIT_EXCEEDED);
                }

                //ALREADY_EXIST
                else if (error === CONSTANTS.ALREADY_EXIST) {
                    reject(CONSTANTS.ALREADY_EXIST);
                }

                else if (error === 404) {
                    reject("no data found at this page");
                }

                //error can beeconnrefused or econnreset
                else if (error.code !== undefined) {

                    //econnrefused
                    if (error.code === CONSTANTS.ECONNREFUSED) {
                        reject("WRONG_URL", url);
                    }

                    //econnreset
                    else if (error.code === CONSTANTS.ECONNRESET) {
                        console.log("\neconnreset error\n");
                        makeRequest(options);
                    }

                }
            }
        );
    });
}

function makeRequest(options) {
    return new Promise((resolve, reject) => {

        let json = {
            category: [],
            imgs: [],
            title: "",
            description: "",
            url: ""
        };


        if (makeRequestCounter === CONSTANTS.REQUEST_LIMIT) {
            reject(CONSTANTS.REQUEST_LIMIT_EXCEEDED);
        }

        makeRequestCounter++;

        console.log("request to: ", options.url);


        request(options, function (error, response, html) {
            if (error) {
                //error: possible econnreset econnrefused
                reject(error);

            } else {

                if (response.statusCode === 200) {
                    cookieSave(response.headers);


                    //---------- check if in db the url is already saved -------------//

                    check(response.request.uri.href, (err) => {
                        if (!err) {
                            reject(CONSTANTS.ALREADY_EXIST);
                        }
                    });

                    //----------finish checking, is new -------------------//


                    //GETTING TITLE

                    title(html, json_recipe).then((json) => {

                            //GETTING category

                            category(html, json).then((json) => {

                                    //GETTING images

                                    imgs(html, json).then((json) => {


                                        description(html, json).then((json) => {


                                                    json.url = response.request.uri.href;

                                                    resolve(json);

                                            //description error
                                        }).catch((error) => {
                                            console.log(error);
                                        });

                                        //images error
                                    }).catch((error) => {
                                        console.log(error);
                                    });

                                //category error
                            }).catch((error) => {
                                console.log(error);
                            });
                            //title error
                        }
                    ).catch((error) => {
                        console.log(error);
                    });
                }

                //no data in this page
                if (response.statusCode === 404) {
                    reject(response.statusCode);
                }
            }

        });
    });
}

scrapeComponents.js

...

function description(html, json) {
return new Promise((resolve, reject) => {

    const $ = cheerio.load(html);

    let description = $('.submitter__description').text().trim();

    json.description = JSON.parse(description);

    resolve(json);

});

}
...

ошибка:

UnhandledPromiseRejectionWarning: Unhandled promise rejection (rejection id: 1): no data found at this page

Программа делает первый запрос и корректно возвращает в scrapeAll.js, который правильно scrapePage (indexPage = 1).Во второй раз моя программа делает то же самое, что и в первый раз, но когда приходит время вернуться к scrapeAll.js (отклонить («данные не найдены на этой странице»); в ScrapePage.js) программа завершается с ошибкой.Обе страницы не содержат данных, но программа не работает, и хорошие страницы сохраняются только на первой.Я думаю, что я сделал большую ошибку с обещаниями.Большое спасибо, ребята.

Answer 1

Ваш вызов для функции scrapPage выполняется только один раз, и вы не вызываете его итеративно.Возможно, вам придется вызывать его в итерации, используя функцию.Обновите ваш scrapeAll.js:

    function callScrapPage() {
    var indexPage = 0;
    while (indexPage < Number.MAX_SAFE_INTEGER) {
        scrapePage(indexPage).then((json) => {
            console.log(JSON.stringify(json, null, 4));
            save(json);
            indexpage++;
         }
       }
   }

Answer 2

Проблема в том, что один или несколько ваших звонков на scrapePage(indexPage) в scrapeAll.js не работают.Вы не можете рекурсивно вызывать обещание так, как вы это делаете с другим кодом, поэтому вам также нужны .then и .catch для дополнительных вызовов.Добавление .catch к другим вызовам позволит вам увидеть истинный источник сбоя.

scrapePage(indexPage)
  .then((json)=>{
    console.log(JSON.stringify(json, null, 4));
    if(indexPage === Number.MAX_SAFE_INTEGER){
      console.log("MAX SAFE INTEGER");
      return;
    }
    save(json);
    indexpage++;
    scrapePage(indexPage).catch(e => console.log(e));
  })
  .catch((data)=>{
    console.log(data);
    if(indexPage === Number.MAX_SAFE_INTEGER){
      console.log("MAX SAFE INTEGER");
      return;
    }
    indexPage++;
    scrapePage(indexPage).catch(e => console.log(e));
});