«Слишком много» - это фактически столько, сколько у вас есть, когда у вас заканчивается свободная память, чтобы посвятить memcached.
Данные хранятся в гигантской хеш-таблице, что делает поиск очень близким к O (1). По мере роста хеш-таблицы теоретически возрастают коллизии, но реализации концепции хеш-таблицы хорошего качества (и подходящие для memcached) обычно включают в себя достаточные средства, чтобы помочь справиться с этим с минимальным замедлением.