Попытка поиска изображений с помощью поиска Google, ошибка 400 - PullRequest
0 голосов
/ 24 октября 2018

Я получаю эту ошибку: urllib.error.HTTPError: Ошибка HTTP 400: Неверный запрос

Я полагаю, что это может иметь какое-то отношение к ссылкам, поскольку, когда я их вставляю (и заменяю {}) Я получаю ту же ошибку, но не знаю, какие ссылки верны / (Python 3.6, Anaconda)

import os
import urllib.request as ulib
from bs4 import BeautifulSoup as Soup
import json

url_a = 'https://www.google.com/search?ei=1m7NWePfFYaGmQG51q7IBg&hl=en&q={}'
url_b = '\&tbm=isch&ved=0ahUKEwjjovnD7sjWAhUGQyYKHTmrC2kQuT0I7gEoAQ&start={}'
url_c = '\&yv=2&vet=10ahUKEwjjovnD7sjWAhUGQyYKHTmrC2kQuT0I7gEoAQ.1m7NWePfFYaGmQG51q7IBg'
url_d = '\.i&ijn=1&asearch=ichunk&async=_id:rg_s,_pms:s'
url_base = ''.join((url_a, url_b, url_c, url_d))

headers = {'User-Agent': 'Chrome/69.0.3497.100'}

def get_links(search_name):
    search_name = search_name.replace(' ', '+')
    url = url_base.format(search_name, 0)
    request = ulib.Request(url, data=None, headers=headers)
    json_string = ulib.urlopen(request).read()
    page = json.loads(json_string)
    new_soup = Soup(page[1][1], 'lxml')
    images = new_soup.find_all('img')
    links = [image['src'] for image in images]
    return links

if __name__ == '__main__':
    search_name = 'Thumbs up'
    links = get_links(search_name)

    for link in links:
        print(link)

Ответы [ 2 ]

0 голосов
/ 24 октября 2018

Я думаю, что проблема в asearch=ichunk&async=_id:rg_s,_pms:s, который нельзя использовать с search, если я удаляю их, это работает:

import os
import urllib.request as ulib
from bs4 import BeautifulSoup as Soup
import json

url_a = 'https://www.google.com/search?ei=1m7NWePfFYaGmQG51q7IBg&hl=en&q=a+mouse'
url_b = '\&tbm=isch&ved=0ahUKEwjjovnD7sjWAhUGQyYKHTmrC2kQuT0I7gEoAQ&start={}'
url_c = '\&yv=2&vet=10ahUKEwjjovnD7sjWAhUGQyYKHTmrC2kQuT0I7gEoAQ.1m7NWePfFYaGmQG51q7IBg'
url_d = '\.i&ijn=1'
url_base = ''.join((url_a, url_b, url_c, url_d))
print(url_base);

headers = {'User-Agent': 'Chrome/69.0.3497.100'}

def get_links(search_name):
    search_name = search_name.replace(' ', '+')
    url = url_base.format(search_name, 0)
    request = ulib.Request(url, data=None, headers=headers)
    json_string = ulib.urlopen(request).read()
    print(json_string)
    page = json.loads(json_string)
    new_soup = Soup(page[1][1], 'lxml')
    images = new_soup.find_all('img')
    links = [image['src'] for image in images]
    return links

if __name__ == '__main__':
    search_name = 'Thumbs up'
    links = get_links(search_name)

    for link in links:
        print(link)
0 голосов
/ 24 октября 2018

Я думаю, у вас есть набор параметров, которые вам не нужны

Попробуйте этот более простой URL для поиска изображений:

https://www.google.com/search?q={KEY_WORD}&tbm=isch

Например:

https://www.google.com/search?q=apples&tbm=isch
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...