Ваш вопрос слишком общий, без конкретного правильного ответа. Memchaced является одной из распределенных баз данных, и вы можете найти обзор архитектуры здесь. . Другие имеют похожую архитектуру, и иногда серверы тоже могут общаться друг с другом. Все они являются деталями реализации и часто проходят по проблемной области. Но основная причина в том, что все они являются распределенными хранилищами ключей и значений.