Загрузите файл, используя urllib в Python с функцией wget -c - PullRequest
Новая
       32

Загрузите файл, используя urllib в Python с функцией wget -c

7 голосов
/ 07 января 2010

Я программирую программное обеспечение на Python для загрузки HTTP PDF из базы данных. Иногда загрузка останавливается с таким сообщением: 

retrieval incomplete: got only 3617232 out of 10689634 bytes

Как я могу попросить перезапустить загрузку, когда она прекращает использовать функцию 206 Partial Content HTTP?

Я могу сделать это, используя wget -c, и он работает довольно хорошо, но я хотел бы реализовать это непосредственно в моем программном обеспечении Python.

Есть идеи?

Спасибо

1 Ответ

7 голосов
/ 07 января 2010

Вы можете запросить частичную загрузку, отправив GET с заголовком Range: 

import urllib2
req = urllib2.Request('http://www.python.org/')
#
# Here we request that bytes 18000--19000 be downloaded.
# The range is inclusive, and starts at 0.
#
req.headers['Range'] = 'bytes=%s-%s' % (18000, 19000)
f = urllib2.urlopen(req)
# This shows you the *actual* bytes that have been downloaded.
range=f.headers.get('Content-Range')
print(range)
# bytes 18000-18030/18031
print(repr(f.read()))
# '  </div>\n</body>\n</html>\n\n\n\n\n\n\n'

Будьте внимательны, чтобы проверить Content-Range, чтобы узнать, какие байты действительно были загружены, поскольку ваш диапазон может выходить за пределы, и / или не все серверы соответствуют заголовку Range.

...