Относительно того, как SO это делает, обратите внимание, что он не проверяет новые ответы постоянно, только когда вы вводите в поле «Ваш ответ».
Тогда ключ заключается в том, чтобы сначала выполнить вычислительно дешевую операцию, чтобы отсеять типичные случаи «не требуется обновление» (например, ввести новый ответ или проверить метку времени), прежде чем инициировать более дорогой процесс для фактического получения любых изменений.
С другой стороны, в зависимости от вашего приложения, вы можете решить эту проблему, оптимизировав свой механизм публикации изменений. Например, возможно, было бы целесообразно, чтобы изменения (или их резюме) были помещены в канал RSS, и клиенты могли просматривать канал вместо реального приложения. Мы можем предположить, что это было бы довольно эффективно, так как это именно то, для чего RSS разработан и оптимизирован, плюс у него было бы дополнительное преимущество, состоящее в том, чтобы сделать ваше приложение намного более совместимым с остальным миром при минимальных затратах или бесплатно. вы.