Давайте ответим на вопрос в вашем заголовке - когда кэширование слишком много.
Это слишком много, если вы кладете так много в кеш, что это отталкивает другие вещи. Если веб-сайты на сервере в целом используют больше памяти, чем физической памяти, они выталкивают друг друга в виртуальную память, которая хранится на диске. Это практически означает, что вы кэшируете некоторые объекты на диске, а не в памяти, что намного медленнее.
Это слишком много, если вы помещаете в кеш столько объектов, что они выталкивают друг друга, так что вам редко приходится использовать какие-либо объекты в кеше, прежде чем они исчезнут.
Итак, обычно вы можете много кешировать, прежде чем достигнете предела, когда нет смысла помещать что-либо еще в кеш.
Когда определите, что наиболее полезно для кэширования, подумайте, где находятся горлышки бутылок. Например, если у вас есть сервер базы данных с гораздо большей емкостью, чем веб-сервер, кэширование результатов базы данных не экономит столько ресурсов. Получение данных из базы данных занимает много времени, но она не использует много ресурсов на веб-сервере в ожидании, поэтому это не сильно повлияет на пропускную способность.