Поддерживается ли scrapy в google app engine? - PullRequest
9 голосов
/ 17 мая 2011

Имеются следующие зависимости: - Twisted 2.5.0, 8.0 или выше - lxml или libxml2 (если используется libxml2, настоятельно рекомендуется версия 2.6.28 или выше) - simplejson - pyopenssl

Ответы [ 2 ]

8 голосов
/ 17 мая 2011

Вы не можете использовать расширения C в App Engine, который исключает lxml и (я полагаю) libxml2 и pyopenssl.

Я сомневаюсь, что большинство из того, что делает Twisted, возможно и в песочнице App Engine;вы не можете напрямую открывать сокеты или порождать потоки.

EDIT (январь 2013): среда выполнения Python 2.7 включает некоторые расширения C, включая lxml.Тем не менее, по-прежнему невозможно использовать расширения C, которые не предоставляются Google во время выполнения;Скорее всего, в настоящее время скрап еще не используется.

3 голосов
/ 03 июня 2011

Нет, но вы можете попробовать AWS (http://dev.scrapy.org/wiki/AmazonEC2)

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...