Кукловод не может получить innerHTML страницы, используя оценку - PullRequest
0 голосов
/ 28 августа 2018

Я пытаюсь получить HTML с сайта, но кукловод не может получить HTML. Тот же код работает для нескольких других сайтов, которые я загружаю.

Что отличает этот веб-сайт и не позволяет оценивать функции при получении контента?

Даже jQuery не может получить доступ к элементам на этом сайте. В загруженном файле действительно есть iframe, но я не уверен, что это проблема.

const puppeteer = require('puppeteer');
const fse = require('fs-extra');
const fs = require('fs');
const nodepath = require('path')
var url = 'http://example.com';

var oddsOutputPath = nodepath.join(__dirname, '..', 'public', 'outputdir');

console.log(oddsOutputPath);
fse.ensureDir(oddsOutputPath).then(() => { console.log('success!') }).catch(err => { console.error(err) });

function delay(timeout) {
  return new Promise((resolve) => {
    setTimeout(resolve, timeout);
  });
}

(async () => {
  const browser = await puppeteer.launch({
    networkIdleTimeout: 0,
    timeout: 360000,
    headless: false,
    ignoreHTTPSErrors: true,
    args: [
      '--no-sandbox'
    ]
  });

  const page = await browser.newPage();
  await page.setRequestInterception(true);
  page.on('request', request => {
    if (['image', /* 'stylesheet', */ 'font'].indexOf(request.resourceType()) !== -1) {
      request.abort();
    } else {
      request.continue();
    }
  });

  try {
    await page.setViewport({ width: 1366, height: 653 });
    await page.goto(url, { waitUntil: 'networkidle2', timeout: 360000 });
    await delay(45000);

    outputPath = oddsOutputPath + "/init.html";
    let html = await page.evaluate(() => document.body.innerHTML);
    fs.writeFileSync(outputPath, html);


    console.log('script has ended');
    await delay(5000);


  } catch (e) {
    var error = "'" + e + "'";
    console.log(error)
    process.exit()
  }
  finally {
    await browser.close();
  }


})();

1 Ответ

0 голосов
/ 28 августа 2018

Страница, к которой вы пытаетесь получить доступ, загружает большую часть своего содержимого в iframe.

Я бы порекомендовал получить доступ к iframe напрямую, чтобы очистить его содержимое:

var url = 'https://elitebet-sportsbook-web.exaloc.net/prelive_event/?token=&language=en';
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...