Я помогаю кому-то получить кучу (десятки тысяч) PDF-файлов с веб-сайта. У нас есть шаблон для имен файлов, но не все файлы будут существовать. Я предполагаю, что грубо просить файл, который не существует, особенно в этом масштабе. Я использую Python и в своих тестах urllib2 я обнаружил, что этот фрагмент получает мне файл, если он существует
s=urllib.urlretrieve('http://website/directory/filename.pdf','c:\\destination.pdf')
Если файл не существует, я получаю файл с именем, которое я назначил, но текст со страницы 404. Теперь я могу справиться с этим после того, как я закончу (прочитайте файлы и удалите все 404 страницы), но это не кажется слишком приятным для их сервера и не слишком питонным.
Я попытался возиться с просмотром различных функций в urllib и urlretrieve и не вижу ничего, что сообщало бы мне, существует ли файл.