Если быть точным, это зависит от дизайна. Давайте предположим, что у вас есть два уровня памяти: первый и второй уровни, обозначенные F и S соответственно.
Пусть частота попаданий равна H и тогда частота промахов равна 1-H
Среднее время доступа к памяти = H * F + (1-H) * (F + S) . То есть, если он поражен ( H ), то он будет доступен на первом уровне F . Если это не удар ( 1-H ), то его нужно искать на следующем уровне также F + S .
Мы можем решить это в HF + F - HF + S - HS
=> F + S - HS
=> F + S (1- H)
i, e
время доступа к памяти первого уровня + частота промахов * время доступа к памяти второго уровня.
Если ваш дизайн иметь более двух уровней памяти, то результат будет зависеть и от этих уровней. Но логика c останется прежней.