Если вы хотите осуществлять потоковую передачу (отправка нескольких сообщений по одному долгосрочному соединению с низкой задержкой), вам, вероятно, нужен комет-сервер. Проверьте http://cometdaily.com/maturity.html для получения подробной информации о различных реализациях сервера (я поддерживаю одну из них - Meteor).
Если вы готовы к повторному подключению после получения каждого сообщения, вы можете обойтись без сложных серверов и транспортов и просто использовать длительный опрос - когда вы делаете запрос ajax, и сервер просто спит, пока ему не будет что отправлять обратно. Но в конечном итоге вы получите множество подключений, свисающих с вашего веб-сервера, поэтому, если вы используете обычный веб-сервер, такой как Apache, убедитесь, что он настроен для этого. По умолчанию Apache не нравится иметь более нескольких сотен одновременных подключений.