перенаправление wget http://example.comhttp/example.com/ - PullRequest
0 голосов
/ 19 апреля 2019

Я получаю неправильное перенаправление с wget:

http://example.comhttp/example.com/

, и он пытается загрузить http://example.comhttp/example.com/index.html вместо http://example.com/index.html

Я делаювеб-сайты отображаются с помощью wget (для многих доменов, а не только для одного) с помощью следующей команды:

wget --spider --recursive --level=2 --no-verbose --follow-tags=a --wait=0.5 "http://example.com" -e use_proxy=yes -e http_proxy=http://user:pass@1.2.3.4:3128

для 100 доменов 90% в порядке, но как минимум 10% получают такую ​​ошибку, как описано в начале.

ВАЖНО: эта ошибка только при использовании прокси, это ошибка wget?

РЕДАКТИРОВАТЬ: я обнаружил, что это из-за 3proxy программное обеспечение, используемое для настройки прокси, теперь вопрос, почему это происходит?Пример URL:

http://leylandslearningcentre.com.au
http://www.roundhillagri.co.nz/
http://barkersphotos.co.nz
...