Возможны ли банковские конфликты для данного типа памяти, очевидно, зависит от структуры памяти и, следовательно, от ее цели.
Так почему общая память спроектирована таким образом, что допускает банковские конфликты?
Это относительно просто, не так просто разработать контроллер памяти, который может обрабатывать независимые обращенияв одну и ту же память одновременно (доказано тем, что большинство не может).Таким образом, для того чтобы каждый поток в полупериоде мог получить доступ к индивидуально адресуемому слову, память распределяется по банкам с независимым контроллером для каждого банка (по крайней мере, так можно думать об этом, не будучи уверенным в фактическом оборудовании).Эти банки чередуются для обеспечения быстрого доступа последовательных потоков к последовательной памяти.Таким образом, каждый из этих банков может обрабатывать один запрос за раз, идеально допуская одновременное выполнение всех запросов в полупериоде (очевидно, что эта модель теоретически может поддерживать более высокую пропускную способность из-за независимости этих банков, что также является плюсом).
А как же регистры?
Регистры предназначены для доступа к ним в качестве операндов для инструкций ALU, то есть к ним нужно обращаться с очень низкой задержкой.Поэтому они получают больше транзисторов / бит, чтобы сделать это возможным.Я не уверен, как именно регистры доступны в современных процессорах (не та информация, которая вам нужна часто и которую не так легко найти).Однако, очевидно, было бы крайне непрактично организовывать регистры в банках (для более простых архитектур вы обычно видите, что все регистры висят на одном большом мультиплексоре).Так что нет, для регистров не будет банковских конфликтов.
Глобальная память
Прежде всего, глобальная память работает с другой гранулярностью, чем разделяемая память.Доступ к памяти осуществляется в 32, 64 или 128-байтовых блоках (для GT200 по крайней мере, для fermi он всегда 128B, но кэшируется, AMD немного отличается), где каждый раз, когда вы хотите что-то из блока, осуществляется доступ / передача всего блока.Вот почему вам необходим объединенный доступ, поскольку, если каждый поток обращается к памяти из другого блока, вы должны перенести все блоки.
Но кто сказал, что в банке нет конфликтов?Я не совсем уверен в этом, потому что я не нашел ни одного фактического источника для поддержки этого для оборудования NVIDIA, но это кажется логичным:Глобальная память обычно распределяется между несколькими чипами оперативной памяти (что легко проверить, посмотрев на видеокарту).Было бы разумно, если бы каждый из этих чипов походил на банк локальной памяти, поэтому вы могли бы столкнуться с конфликтами банков, если в одном и том же банке есть несколько одновременных запросов.Однако эффекты будут гораздо менее выражены с одной стороны (поскольку большая часть времени, затрачиваемого на доступ к памяти, в любом случае представляет собой задержку при получении данных от A до B), и это не будет заметным эффектом «внутри» одной рабочей группы.(поскольку за один раз выполняется только одна полуверсия, и если эта полуверсия выдает более одного запроса, у вас есть несвязанный доступ к памяти, поэтому вы уже получаете удар, затрудняющий измерение последствий этого конфликта. Таким образом, вы получите конфликты только в том случае, еслинесколько рабочих групп пытаются получить доступ к одному и тому же банку. В вашей типичной ситуации для gpgpu у вас есть большой набор данных, лежащий в последовательной памяти, поэтому эффекты на самом деле не должны быть заметны, так как есть достаточно других рабочих групп, одновременно получающих доступ к другим банкам, но этодолжна быть возможность построить ситуации, когда набор данных сосредоточен только на нескольких банках, что может привести к снижению пропускной способности (поскольку максимальная пропускная способность будет зависеть от равномерного распределения доступа по всем банкам, поэтому каждый банк будеттолько часть этой полосы пропускания).Опять же, я ничего не читал, чтобы доказать эту теорию для аппаратного обеспечения NVIDIA (в основном все сосредоточено на объединении, что, конечно, более важно, так как делает это проблемой для естественных наборов данных).Однако, согласно руководству по вычислениям ATI Stream, такова ситуация с картами Radeon (для 5xxx: банки разнесены на 2 КБ, и вы хотите убедиться, что вы распределяете свои доступы (то есть из всех воргрупп, симулирующих активные) равными по всем банкам), поэтомуМожно предположить, что карты NVidia ведут себя аналогично.
Конечно, для большинства сценариев возможность возникновения банковских конфликтов на глобальной памяти не проблема, поэтому на практике вы можете сказать:
- Следите заобъединение при доступе к глобальной памяти
- Отслеживать конфликты банков при доступе к локальной памяти
- Нет проблем с доступом к регистрам