urllib.urlopen работает, но urllib2.urlopen не работает - PullRequest
Новая
       17

urllib.urlopen работает, но urllib2.urlopen не работает

11 голосов
/ 14 октября 2008

У меня простой сайт, который я тестирую. Он работает на локальном хосте, и я могу получить к нему доступ в своем веб-браузере. На индексной странице просто слово «работает». urllib.urlopen успешно прочитает страницу, но urllib2.urlopen - нет. Вот скрипт, который демонстрирует проблему (это фактический скрипт, а не упрощение другого тестового скрипта): 

import urllib, urllib2
print urllib.urlopen("http://127.0.0.1").read()  # prints "running"
print urllib2.urlopen("http://127.0.0.1").read() # throws an exception

Вот трассировка стека: 

Traceback (most recent call last):
  File "urltest.py", line 5, in <module>
    print urllib2.urlopen("http://127.0.0.1").read()
  File "C:\Python25\lib\urllib2.py", line 121, in urlopen
    return _opener.open(url, data)
  File "C:\Python25\lib\urllib2.py", line 380, in open
    response = meth(req, response)
  File "C:\Python25\lib\urllib2.py", line 491, in http_response
    'http', request, response, code, msg, hdrs)
  File "C:\Python25\lib\urllib2.py", line 412, in error
    result = self._call_chain(*args)
  File "C:\Python25\lib\urllib2.py", line 353, in _call_chain
    result = func(*args)
  File "C:\Python25\lib\urllib2.py", line 575, in http_error_302
    return self.parent.open(new)
  File "C:\Python25\lib\urllib2.py", line 380, in open
    response = meth(req, response)
  File "C:\Python25\lib\urllib2.py", line 491, in http_response
    'http', request, response, code, msg, hdrs)
  File "C:\Python25\lib\urllib2.py", line 418, in error
    return self._call_chain(*args)
  File "C:\Python25\lib\urllib2.py", line 353, in _call_chain
    result = func(*args)
  File "C:\Python25\lib\urllib2.py", line 499, in http_error_default
    raise HTTPError(req.get_full_url(), code, msg, hdrs, fp)
urllib2.HTTPError: HTTP Error 504: Gateway Timeout

Есть идеи? Возможно, мне понадобятся некоторые из более продвинутых функций urllib2, поэтому я не хочу просто прибегать к использованию urllib, плюс хочу понять эту проблему.

Ответы [ 4 ]

16 голосов
/ 14 октября 2008

Похоже, у вас есть настройки прокси, на которых работает urllib2. Когда он пытается прокси "127.0.0.01/", он сдается и возвращает ошибку 504.

От Непонятный Python urllib2 прокси получил : 

proxy_support = urllib2.ProxyHandler({})
opener = urllib2.build_opener(proxy_support)
print opener.open("http://127.0.0.1").read()

# Optional - makes this opener default for urlopen etc.
urllib2.install_opener(opener)
print urllib2.urlopen("http://127.0.0.1").read()
1 голос
/ 14 октября 2008

urllib.urlopen () создает следующий запрос на сервере: 

GET / HTTP/1.0
Host: 127.0.0.1
User-Agent: Python-urllib/1.17

пока urllib2.urlopen () выбрасывает это: 

GET / HTTP/1.1
Accept-Encoding: identity
Host: 127.0.0.1
Connection: close
User-Agent: Python-urllib/2.5

Итак, ваш сервер либо не понимает HTTP / 1.1, либо дополнительные поля заголовка.

1 голос
/ 14 октября 2008

Я не знаю, что происходит, но вы можете найти это полезным для выяснения этого: 

>>> import urllib2
>>> urllib2.urlopen('http://mit.edu').read()[:10]
'<!DOCTYPE '
>>> urllib2._opener.handlers[1].set_http_debuglevel(100)
>>> urllib2.urlopen('http://mit.edu').read()[:10]
connect: (mit.edu, 80)
send: 'GET / HTTP/1.1\r\nAccept-Encoding: identity\r\nHost: mit.edu\r\nConnection: close\r\nUser-Agent: Python-urllib/2.5\r\n\r\n'
reply: 'HTTP/1.1 200 OK\r\n'
header: Date: Tue, 14 Oct 2008 15:52:03 GMT
header: Server: MIT Web Server Apache/1.3.26 Mark/1.5 (Unix) mod_ssl/2.8.9 OpenSSL/0.9.7c
header: Last-Modified: Tue, 14 Oct 2008 04:02:15 GMT
header: ETag: "71d3f96-2895-48f419c7"
header: Accept-Ranges: bytes
header: Content-Length: 10389
header: Connection: close
header: Content-Type: text/html
'<!DOCTYPE '
1 голос
/ 14 октября 2008

Дает ли тот же результат вызов urlib2.open, а затем urllib.open? Просто интересно, вызывает ли первый вызов открытия сервер http, чтобы вызвать тайм-аут?

...