Деталь всего алгоритма MPI?

Question

Есть ли документ о том, как реализованы функции MPI, такие как MPI_Algather, MPI_AlltoAll, MPI_Allreduce и т. Д.?

Я хотел бы узнать об их алгоритме и вычислить их сложность с точки зрения однонаправленной или двунаправленной полосы пропускания и общего размера передачи данных для ряда узлов и фиксированного размера данных.

Answer 1

Я думаю, что точная реализация этих алгоритмов варьируется в зависимости от механизма связи: например, сеть будет иметь алгоритмы сокращения на основе дерева, в то время как модели с общей памятью будут иметь другие.

Я не совсем уверен, где можно найти ответы на такие вопросы, но я думаю, что хороший поиск статей в google scholar или просмотр этого списка в open- mpi.org должен быть полезен.

Answer 2

http://www.amazon.com/Parallel-Programming-MPI-Peter-Pacheco/dp/1558603395/ref=sr_1_10?s=books&ie=UTF8&qid=1314807638&sr=1-10

, показанный выше, является отличной ссылкой, которая объясняет все основные алгоритмы MPI и позволяет вам реализовать простую версию самостоятельно.Однако при сравнении реализованных вами алгоритмов и алгоритмов MPI вы увидите, что они произвели много оптимизаций в зависимости от размера сообщения и количества узлов, на которых вы работаете.Надеюсь, это поможет