XMPP - это широко используемый протокол для реализации функций чата, так что вы можете глубже изучить его. IRC еще один, так что читайте на нем.
Кроме этого, обычно есть два способа реализовать чат через HTTP: Длинный опрос и опрос AJAX (каждую секунду или около того).
Следующей «большой» вещью, которая может упростить реализацию и уменьшить пропускную способность, являются веб-сокеты .
Например, чат на Facebook реализован на Erlang.
Как видите, существует множество технологий, сред и языков, доступных для реализации чата, поэтому вам придется провести некоторое исследование и выбрать то, что, по вашему мнению, является лучшим выбором для вас.