То, что вы ищете, вероятно, WebSockets . WebSockets обеспечивают двустороннюю связь, которая используется для связи между сервером и клиентом. В идеале вы хотите реализовать механизм публикации-подписки, при котором вы можете публиковать с вашего сервера и подписываться на клиенте, который является вашим приложением чата. Существует множество решений с открытым исходным кодом, PAAS, IAAS, которые можно использовать для достижения того, чего вы хотите достичь.
Для открытого исходного кода, я бы порекомендовал вам проверить socket.io .
Имейте в виду, что при запуске socket.io вам придется самостоятельно масштабировать и размещать версию сервера. Чтобы избежать этого, многие люди обычно пользуются услугами PAAS или IAAS.
Для услуг PAAS я использовал и рекомендую ably .