Memcached использует внутренний хеш для поиска O (1) - он предназначен для выполнения как можно меньшей сложной работы.
Что касается того, что кешировать, большое или маленькое, то это действительно то, что вам нужно хранить, что сэкономит ваши усилия (учитывая, что это большой тупой кеш, вы должны поддерживать его синхронизацию, если вы меняете одну часть, которая также упоминается в другом месте). На оригинальном сайте, для которого был написан Livejournal.com, самым крупным блоком, который имел смысл, была одна полная запись в журнале - как готовый HTML-код, который мог использовать любой, кому было разрешено просматривать этот конкретный пост.
Я использовал его для некоторых очень маленьких записей - буквально одно число против идентификатора участника, но я генерирую несколько тысяч таких записей массово с помощью одного запроса к базе данных, а не по одной за раз, как требуется .
Вы можете несколько оптимизировать демона, если знаете, что будете хранить только очень большие или очень мелкие элементы, но для множества небольших записей у него достаточно смартов, чтобы разбить пустые большие куски памяти на более мелкие порции для использования.