Я бы порекомендовал изучить Twisted, их сервер twisted.web и кометную работу, проделанную на Divmod. Они могут обрабатывать гораздо больше одновременных подключений, чем традиционные серверы на основе потоков или процессов, и это именно то, что вам нужно для чего-то подобного. И да, я спроектировал системы, использующие Twisted для COMET, в то же время используя другие вещи для более фронтальных веб-приложений, помимо них. Это хорошо работает с каждой частью, делающей то, что делает лучше всего.