BeautifulSoup не возвращая все html

Question

import requests
from bs4 import BeautifulSoup

r = requests.get('https://www.amazon.com/s?k=iphone+5s&ref=nb_sb_noss')
c = r.content

soup = BeautifulSoup(c, 'html.parser')

all = soup.find_all("span", {"class": "a-size-medium a-color-base a-text-normal"})

print(all)

так что это мой простой скрипт python, пытающийся очистить страницу в amazon, но не все html возвращаются в переменную "soup", потому что я ничего не получаю при попытке найти специфику c серия тегов и извлечение их.

Answer 1

Попробуйте приведенный ниже код, он должен помочь вам. Вы действительно пропустили добавление заголовков в ваш код

import requests
from bs4 import BeautifulSoup
headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'}
url = 'https://www.amazon.com/s?k=iphone+5s&ref=nb_sb_noss'
response = requests.get(url, headers=headers)
print(response.text)
soup = BeautifulSoup(response.content, features="lxml")
my_all = soup.find_all("span", {"class": "a-size-medium a-color-base a-text-normal"})
print(my_all)