Проверка прокси Python, перейти на многопоточную версию - PullRequest
1 голос
/ 07 декабря 2009

У меня есть некоторая проверка прокси-сервера Python.

и чтобы ускорить проверку, было решено перейти на многопоточную версию,

, и модуль нитей для меня первый, меня несколько раз пыталиськонвертировать в потоковую версию

и искать много информации, но это не так просто для начинающего программиста Python.

, если кто-то может помочь мне действительно очень ценю !!

заранее спасибо!

import urllib2, socket

socket.setdefaulttimeout(180)
# read the list of proxy IPs in proxyList
proxyList = open('listproxy.txt').read()

def is_bad_proxy(pip):    
    try:        
        proxy_handler = urllib2.ProxyHandler({'http': pip})        
        opener = urllib2.build_opener(proxy_handler)
        opener.addheaders = [('User-agent', 'Mozilla/5.0')]
        urllib2.install_opener(opener)        
        req=urllib2.Request('http://www.yahoo.com')  # <---check whether proxy alive 
        sock=urllib2.urlopen(req)
    except urllib2.HTTPError, e:        
        print 'Error code: ', e.code
        return e.code
    except Exception, detail:

        print "ERROR:", detail
        return 1
    return 0


for item in proxyList:
    if is_bad_proxy(item):
        print "Bad Proxy", item
    else:
        print item, "is working"

1 Ответ

4 голосов
/ 07 декабря 2009

urllib2.install_opener() функция устанавливает global opener, т.е. это не потокобезопасно. Поэтому не используйте его и вызывайте метод opener.open() вместо глобальной функции urllib2.urlopen(). Также используйте Queue класс из модуля Queue для хранения списка прокси для проверки. Остальная часть вашего кода в порядке, чтобы использовать в многопоточном режиме.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...