падение производительности произвольного доступа gpgpu?

Question

Я слышал, что при выполнении вычислений на массивах с произвольным доступом на GPU наблюдается снижение производительности.

У меня вопрос, насколько серьезным является падение производительности?

Поиск по некоторым комментариям означал, что код работал быстрее на процессоре. Но, видя огромную разницу между int и flop между gpus и cpus, трудно поверить, что производительность так сильно упала.

Answer 1

Я думаю, что это связано с потерей кэша.GPU также имеет кэш L1 L2, и если вы попадете в случайное пространство памяти, у вас будет больше шансов потерять кэш.А также потому, что у GPU есть специальный шаблон доступа к памяти, который называется объединением памяти.Это доступ к памяти с широким диапазоном.Вот почему GPU так быстр, когда они запускают SIMD-дружественный код.Но если вы получите доступ к случайному пространству памяти, это нарушит объединение памяти.Я думаю, что было бы неплохо прочитать документ cuda, чтобы увидеть, как работает GPU.