Webscraping нескольких страниц JS одновременно

Question

Я пытаюсь создать веб-сайт с несколькими страницами, которые отображаются с помощью Javascript. Я использую BeautifulSoup и Selenium. У меня есть скрипт, который работает, но только для первой страницы сайта. Можно ли создать несколько страниц, отображаемых на JavaScript, или мне нужно сделать их по отдельности? Вот мой сценарий:

import time
from bs4 import BeautifulSoup as soup
import requests
from selenium import webdriver
from selenium.webdriver.chrome.options import Options
import json

# The path to where you have your chrome webdriver stored:
webdriver_path = '/Users/rawlins/Downloads/chromedriver'

# Add arguments telling Selenium to not actually open a window
chrome_options = Options()
chrome_options.add_argument('--headless')
#chrome_options.add_argument('--window-size=1920x1080')

# Fire up the headless browser
browser = webdriver.Chrome(executable_path = webdriver_path,
chrome_options = chrome_options)

# Load webpage
url = "https://cnx.org/search?q=subject:Arts"
browser.get(url)

# to ensure that the page has loaded completely.
time.sleep(3)

data = [] 
n = 2
for i in range(1, n+1):
    if (i == 1):
        # handle first page
        response = requests.get(url)
    response = requests.get(url + "&page=" + str(i))
    #response = requests.get(url + "&page=" + str(i),headers={'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_4) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/35.0.1916.47 Safari/537.36'})

    # Parse HTML, close browser
    page_soup = soup(browser.page_source, 'lxml')
    containers = page_soup.findAll("tr")
    browser.quit()

    for container in containers:
        item = {}
        item['type'] = "Course Material"
        if container.find('td', {'class' : 'title'}):
            item['title'] = container.find('td', {'class' : 'title'}).h4.text.strip()
        else:
            item['title'] = ""
        if container.find('td', {'class' : 'authors'}):
            item['author'] = container.find('td', {'class' : 'authors'}).text.strip()
        else:
            item['author'] = ""
        if container.find('td', {'class' : 'title'}):
            item['link'] = "https://cnx.org/" + container.find('td', {'class' : 'title'}).a["href"]
        else: 
            item['link'] = ""
        if container.find('td', {'class' : 'title'}):
            item['description'] = container.find('td', {'class' : 'title'}).span.text
        else: 
            item['description'] = ""
        item['subject'] = "Arts"
        item['source'] = "OpenStax CNX"
        item['base_url'] = "https://cnx.org/browse"
        item['license'] = "Attribution"
        data.append(item) # add the item to the list

    with open("js-webscrape.json", "w") as writeJSON:
        json.dump(data, writeJSON, ensure_ascii=False)

Заранее спасибо.

Answer 1

Пара вопросов здесь:

• Вы смешиваете requests.get() с browser.get().Здесь совсем не нужен модуль requests, поскольку вы получаете страницу через браузер без головы.
• Не нужно иметь специальный чехол для первой страницы.https://cnx.org/search?q=subject:Arts&page=1 работает нормально.
• time.sleep() должен находиться между browser.get() и парсингом, чтобы обеспечить полную загрузку страницы перед ее подачей в BeautifulSoup.
• Вы должны написатьdata в файл JSON вне цикла for после очистки всех страниц.
• Выйдите из браузера и вне цикла for, не после одной итерации.
• Чтобы избежать ошибок кодирования, укажите кодировку при записи в файл JSON: с open("js-webscrape.json", "w", encoding="utf-8")

Вот рабочая реализация, которая очищает все 7 страниц:

import time
from bs4 import BeautifulSoup as soup
from selenium import webdriver
from selenium.webdriver.chrome.options import Options
import json

# The path to where you have your chrome webdriver stored:
webdriver_path = '/Users/Gebruiker/Downloads/chromedriver_win32/chromedriver'

# Add arguments telling Selenium to not actually open a window
chrome_options = Options()
chrome_options.add_argument('--headless')

# Fire up the headless browser
browser = webdriver.Chrome(executable_path = webdriver_path, options = chrome_options)

# Load webpage
url = "https://cnx.org/search?q=subject:Arts"

data = []
n = 7
for i in range(1, n+1):
    response = browser.get(url + "&page=" + str(i))
    time.sleep(5)

    # Parse HTML
    page_soup = soup(browser.page_source,'lxml')
    containers = page_soup.findAll("tr")

    for container in containers:
        item = dict()
        item['type'] = "Course Material"
        if container.find('td', {'class' : 'title'}):
            item['title'] = container.find('td', {'class' : 'title'}).h4.text.strip()
        else:
            item['title'] = ""
        if container.find('td', {'class' : 'authors'}):
            item['author'] = container.find('td', {'class' : 'authors'}).text.strip()
        else:
            item['author'] = ""
        if container.find('td', {'class' : 'title'}):
            item['link'] = "https://cnx.org/" + container.find('td', {'class' : 'title'}).a["href"]
        else:
            item['link'] = ""
        if container.find('td', {'class' : 'title'}):
            item['description'] = container.find('td', {'class' : 'title'}).span.text
        else:
            item['description'] = ""
        item['subject'] = "Arts"
        item['source'] = "OpenStax CNX"
        item['base_url'] = "https://cnx.org/browse"
        item['license'] = "Attribution"
        data.append(item) # add the item to the list

# write data to file and quit browser when done
print(data)
with open("js-webscrape.json", "w", encoding="utf-8") as writeJSON:
    json.dump(data, writeJSON, ensure_ascii=False)

browser.quit()