Это простое следствие ограниченной скорости света.Сигналам нужно время для путешествий.Для медного провода это ок.20см / нс.Если у вас есть микросхемы памяти на расстоянии 10 см от вашего ЦП, вы можете отправить сигнал с ACK с частотой 1 ГГц (0,5 нс для отправки данных из ЦП в память и 0,5 нс из памяти в ЦП для ACK),
Если вы поместите модули памяти ближе к процессору, скажем, всего на 5 см, вы можете уменьшить кэш на некоторый запас, потому что вы уже в два раза быстрее, и выгода от использования кеша будет меньше.