Переопределение urllib2.HTTPError или urllib.error.HTTPError и чтение HTML ответа в любом случае

Question

Я получаю ответ «HTTP Error 500: Internal Server Error», но я все еще хочу прочитать данные в HTML-коде ошибки.

В Python 2.6 я обычно выбираю страницу, используя:

import urllib2
url = "http://google.com"
data = urllib2.urlopen(url)
data = data.read()

При попытке использовать это в URL-адресе с ошибкой я получаю исключение urllib2.HTTPError:

urllib2.HTTPError: HTTP Error 500: Internal Server Error

Как я могу получить такие страницы ошибок (с или без urllib2), все время, пока они возвращают внутренние ошибки сервера?

Обратите внимание, что в Python 3 соответствующее исключение urllib.error.HTTPError.

Answer 1

HTTPError - это файлоподобный объект . Вы можете поймать его, а затем read его содержимое.

try:
    resp = urllib2.urlopen(url)
    contents = resp.read()
except urllib2.HTTPError, error:
    contents = error.read()

Answer 2

Если вы имеете в виду, что хотите прочитать тело 500:

request = urllib2.Request(url, data, headers)
try:
        resp = urllib2.urlopen(request)
        print resp.read()
except urllib2.HTTPError, error:
        print "ERROR: ", error.read()

В вашем случае вам не нужно составлять запрос. Просто сделай

try:
        resp = urllib2.urlopen(url)
        print resp.read()
except urllib2.HTTPError, error:
        print "ERROR: ", error.read()

Итак, вы не переопределяете urllib2.HTTPError, вы просто обрабатываете исключение.

Answer 3

alist=['http://someurl.com']

def testUrl():
    errList=[]
    for URL in alist:
        try:
            urllib2.urlopen(URL)
        except urllib2.URLError, err:
            (err.reason != 200)
            errList.append(URL+" "+str(err.reason))
            return URL+" "+str(err.reason)
    return "".join(errList)

testUrl()