memcached - это LRU-кеш, который означает, что наименее недавно использованный элемент - это то, что получает загрузку, когда достигает максимального использования памяти, и получает новый элемент, для которого ему требуется место.
На практике этоозначает, что лучше всего поместить все ваши данные в один и тот же экземпляр memcached и позволить ему хранить в памяти все, что вы чаще всего просите, и выталкивать наименее запрашиваемые элементы.