Возможно, вы захотите заглянуть в программирование COMET.
Скорее всего, вам потребуется реализовать это как распределенное решение в зависимости от вашего трафика.
В основном у вас будет функция java-скрипта, которая отправляется на сервер для проверки уведомлений и, еслион находит любой, вызывает другой скрипт, который извлекает уведомления обратно клиенту.Это должно происходить очень часто, и БУДЕТ создавать более высокий трафик и оставлять больше открытых соединений.
Взгляните на эту тему: Использование кометы с PHP?