Что является наиболее важной особенностью кэшей в научных вычислениях?

Question

Я недавно начал изучать методы параллельного программирования и то, на что следует обращать внимание при попытке создания эффективных программ.Например, знание конкретных подробностей о кэшах вашего процессора необходимо, если вы хотите писать эффективные программы.

Я хочу знать, какая самая важная (если одна важнее другой) функция кэша между размером блока и количеством наборов, например, 4-сторонняя или 8-сторонняя ассоциативная.

Answer 1

Ассоциативность важнее, чем размер строки.Многие обращения в HPC являются последовательными, поэтому меньший размер строки в большинстве случаев является пустой тратой накладных расходов тега.

Наличие более мелких наборов (из-за меньшего размера строки) может помочь в проблеме с гистограммой, которая является одной изосновные вещи, которые не могут быть легко оптимизированы для последовательного доступа.

Конечно, задержка и пропускная способность, как правило, даже более важны, чем 4 против 8 каналов.