Все это происходит на уровне микроэлектроники. По сути, кеш-подсистемы в двух процессорах должны договариваться друг с другом, чтобы решить, какая из них имеет самую последнюю копию ресурса, или извлечь ее из DRAM того процессора, который имеет ее. На архитектурах Intel это происходит в межчиповой сети, называемой QPI, на архитектурах AMD это Hypertransport (теперь может иметь более новое имя). В основном обе архитектуры являются NUMA - DRAM не доступен напрямую всем процессорам - но QPI / Hypertransport синтезирует архитектуру SMP, делая вид, что весь DRAM напрямую доступен всем процессорам. Это то, что испытывает ваша программа / ОС, когда она работает.
QPI и Hypertransport довольно сложны и невидимы для программного обеспечения.