Да, urllib
не делает много параллелизма. Каждый раз, когда вы urlopen
, он должен установить соединение, отправить HTTP-запрос и получить код состояния и заголовки из ответа (и, возможно, обработать перенаправление оттуда). Таким образом, хотя вы можете прочитать текст ответа в своем собственном темпе, большая часть времени ожидания запроса уже произошла.
Если вам нужно больше параллелизма, вам, вероятно, придется выбрать какой-нибудь инструмент асинхронного сетевого ввода-вывода (например, Eventlet , кажется, имеет подходящий пример на первой странице), или просто запустить каждый urlopen
в собственной теме.