HTTPS войти с помощью urllib2 - PullRequest
Новая
       39

HTTPS войти с помощью urllib2

5 голосов
/ 25 июня 2009

В настоящее время у меня есть небольшой скрипт, который загружает веб-страницу и извлекает некоторые данные, которые меня интересуют. Ничего особенного.

В настоящее время я загружаю страницу примерно так: 

import commands
command = 'wget --output-document=- --quiet --http-user=USER --http-password=PASSWORD https://www.example.ca/page.aspx'
status, text = commands.getstatusoutput(command)

Хотя это работает отлично, я подумал, что имеет смысл удалить зависимость от wget. Я думал, что должно быть тривиально преобразовать вышеупомянутое в urllib2, но пока у меня был нулевой успех. В Интернете полно примеров urllib2, но я не нашел ничего, что соответствовало бы моей потребности в простой аутентификации по имени пользователя и паролю HTTP с сервером HTTPS.

Ответы [ 3 ]

6 голосов
/ 25 июня 2009

это говорит, что это должно быть прямо

[as], пока ваш локальный Python поддерживает SSL.

Если вы используете только простую аутентификацию HTTP, вы должны установить другой обработчик, как описано здесь .

Приведу пример: 

import urllib2

theurl = 'http://www.someserver.com/toplevelurl/somepage.htm'
username = 'johnny'
password = 'XXXXXX'
# a great password

passman = urllib2.HTTPPasswordMgrWithDefaultRealm()
# this creates a password manager
passman.add_password(None, theurl, username, password)
# because we have put None at the start it will always
# use this username/password combination for  urls
# for which `theurl` is a super-url

authhandler = urllib2.HTTPBasicAuthHandler(passman)
# create the AuthHandler

opener = urllib2.build_opener(authhandler)

urllib2.install_opener(opener)
# All calls to urllib2.urlopen will now use our handler
# Make sure not to include the protocol in with the URL, or
# HTTPPasswordMgrWithDefaultRealm will be very confused.
# You must (of course) use it when fetching the page though.

pagehandle = urllib2.urlopen(theurl)
# authentication is now handled automatically for us

Если вы выполняете дайджест, вам придется установить дополнительные заголовки, но они будут одинаковыми, независимо от использования SSL. Google для python + urllib2 + http + digest.

Приветствия

1 голос
/ 10 сентября 2015

Модуль запросов предоставляет современный API для возможностей HTTP / HTTPS. 

import requests

url = 'https://www.someserver.com/toplevelurl/somepage.htm'

res = requests.get(url, auth=('USER', 'PASSWORD'))

status = res.status_code
text   = res.text
1 голос
/ 26 июня 2009

В документации urllib2 есть пример работы с базовой аутентификацией:

http://docs.python.org/library/urllib2.html#examples

...