ИМТ для генерации масок с AVX512 - PullRequest
Новая
       48

ИМТ для генерации масок с AVX512

0 голосов
/ 21 февраля 2019

Я был вдохновлен этой ссылкой https://www.sigarch.org/simd-instructions-considered-harmful/, чтобы посмотреть, как работает AVX512.Моя идея состояла в том, что цикл очистки после цикла можно было удалить с помощью операций маски AVX512.

Вот код, который я использую 

void daxpy2(int n, double a, const double x[], double y[]) {
  __m512d av = _mm512_set1_pd(a);
  int r = n&7, n2 = n - r;
  for(int i=-n2; i<0; i+=8) {
    __m512d yv = _mm512_loadu_pd(&y[i+n2]);
    __m512d xv = _mm512_loadu_pd(&x[i+n2]);
    yv = _mm512_fmadd_pd(av, xv, yv);
    _mm512_storeu_pd(&y[i+n2], yv);
  }
  __m512d yv = _mm512_loadu_pd(&y[n2]);
  __m512d xv = _mm512_loadu_pd(&x[n2]);
  yv = _mm512_fmadd_pd(av, xv, yv);
  __mmask8 mask = (1 << r) -1;
  //__mmask8 mask = _bextr_u32(-1, 0, r);
  _mm512_mask_storeu_pd(&y[n2], mask, yv);
}

Я думал, используя BMI1 и / или BMI2инструкции могут генерировать маски с меньшим количеством инструкций.Однако 

__mmask8 mask = _bextr_u32(-1, 0, r)

не лучше (по количеству инструкций), чем 

__mmask8 mask = (1 << r) -1;

см. https://godbolt.org/z/BFQCM3 и https://godbolt.org/z/tesmB_.

быть связано с тем, что _bextr_u32 в любом случае выполняет сдвиг на 8.

Может ли маска генерироваться с меньшим количеством инструкций (например, с помощью ИМТ или другого метода) или более оптимально?

Я дополнил таблицу в ссылке своими результатами для AVX512. 

ISA                           | MIPS-32 | AVX2  | RV32V | AVX512 |
******************************|*********|****** |*******|******* |
Instructions(static)          |      22 |   29  |    13 |     28 |
Instructions per Main Loop    |       7 |    6* |    10 |      5*|
Bookkeeping Instructions      |      15 |   23  |     3 |     23 |
Results per Main Loop         |       2 |    4  |    64 |      8 |
Instructions (dynamic n=1000) |    3511 | 1517**|   163 |    645 |

*macro-op fusion will reduce the number of uops in the main loop by 1
** without the unnecessary cmp instructions it would only be 1250+ instructions.

Я думаю, если бы авторы ссылки посчитали от -n до 0 вместо0 до n они могли бы пропустить инструкцию cmp, как я (см. Сборку ниже) в основном цикле, поэтому для AVX в главном цикле должно было быть 5 инструкций.

Здесьэто сборка с ICC19 и -O3 -xCOMMON-AVX512

daxpy2(int, double, double const*, double*):
    mov       eax, edi                                      #6.13
    and       eax, 7                                        #6.13
    movsxd    r9, edi                                       #6.25
    sub       r9, rax                                       #6.21
    mov       ecx, r9d                                      #7.14
    neg       ecx                                           #7.14
    movsxd    rcx, ecx                                      #7.14
    vbroadcastsd zmm16, xmm0                                #5.16
    lea       rdi, QWORD PTR [rsi+r9*8]                     #9.35
    lea       r8, QWORD PTR [rdx+r9*8]                      #8.35
    test      rcx, rcx                                      #7.20
    jge       ..B1.5        # Prob 36%                      #7.20
..B1.3:                         # Preds ..B1.1 ..B1.3
    vmovups   zmm17, ZMMWORD PTR [rdi+rcx*8]                #10.10
    vfmadd213pd zmm17, zmm16, ZMMWORD PTR [r8+rcx*8]        #10.10
    vmovups   ZMMWORD PTR [r8+rcx*8], zmm17                 #11.23
    add       rcx, 8                                        #7.23
    js        ..B1.3        # Prob 82%                      #7.20
..B1.5:                         # Preds ..B1.3 ..B1.1
    vmovups   zmm17, ZMMWORD PTR [rsi+r9*8]                 #15.8
    vfmadd213pd zmm16, zmm17, ZMMWORD PTR [rdx+r9*8]        #15.8
    mov       edx, -1                                       #17.19
    shl       eax, 8                                        #17.19
    bextr     eax, edx, eax                                 #17.19
    kmovw     k1, eax                                       #18.3
    vmovupd   ZMMWORD PTR [r8]{k1}, zmm16                   #18.3
    vzeroupper                                              #19.1
    ret                                                     #19.1

, где 

    add       r8, 8
    js        ..B1.3

должен макро-предохранитель к одной инструкции.Однако, как указал Питер Кордес в этом ответе js не может слиться .Вместо этого компилятор мог бы сгенерировать jl, что привело бы к слиянию.

Я использовал утилиту Agner Fog testp для получения тактовых импульсов ядра (не эталонных), инструкций, мопов на пенсию,Я сделал это для SSE2 (на самом деле AVX2 с FMA, но с 128-битными векторами), AVX2 и AVX512 для трех различных вариантов циклов 

v1 = for(int64_t i=0;   i<n;  i+=vec_size) // generates cmp instruction
v2 = for(int64_t i=-n2; i<0;  i+=vec_size) // no cmp but uses js
v3 = for(int64_t i=-n2; i!=0; i+=vec_size) // no cmp and uses jne

vec_size = 2 for SSE, 4 for AVX2, and 8 for AVX512

vec_size version   core cycle    instructions   uops
2        v1        895           3014           3524
2        v2        900           2518           3535
2        v3        870           2518           3035
4        v1        527           1513           1777
4        v2        520           1270           1777
4        v3        517           1270           1541
8        v1        285            765            910
8        v2        285            645            910
8        v3        285            645            790

Обратите внимание, что тактовые частоты ядра на самом деле не являются функцией версии цикла,Это зависит только от итераций цикла.Он пропорционален 2*n/vec_size. 

SSE     2*1000/2=1000
AVX2    2*1000/4=500
AVX512  2*1000/8=250

Количество инструкций изменяется с v1 на v2, но не между v2 и v3.Для v1 оно пропорционально 6*n/vec_size, а для v2 и v3 5*n/vec_size

Наконец, число мопов более или менее одинаково для v1 и v2, но уменьшается для v3.Для v1 и v2 оно пропорционально 7*n/vec_size, а для v3 6*n/vec_size.

Вот результат с IACA3 для vec_size = 2 

Throughput Analysis Report
--------------------------
Block Throughput: 1.49 Cycles       Throughput Bottleneck: FrontEnd
Loop Count:  50
Port Binding In Cycles Per Iteration:
--------------------------------------------------------------------------------------------------
|  Port  |   0   -  DV   |   1   |   2   -  D    |   3   -  D    |   4   |   5   |   6   |   7   |
--------------------------------------------------------------------------------------------------
| Cycles |  0.5     0.0  |  0.5  |  1.5     1.0  |  1.5     1.0  |  1.0  |  0.0  |  0.0  |  0.0  |
--------------------------------------------------------------------------------------------------

DV - Divider pipe (on port 0)
D - Data fetch pipe (on ports 2 and 3)
F - Macro Fusion with the previous instruction occurred
* - instruction micro-ops not bound to a port
^ - Micro Fusion occurred
# - ESP Tracking sync uop was issued
@ - SSE instruction followed an AVX256/AVX512 instruction, dozens of cycles penalty is expected
X - instruction not supported, was not accounted in Analysis

| Num Of   |                    Ports pressure in cycles                         |      |
|  Uops    |  0  - DV    |  1   |  2  -  D    |  3  -  D    |  4   |  5   |  6   |  7   |
-----------------------------------------------------------------------------------------
|   1      |             |      | 0.5     0.5 | 0.5     0.5 |      |      |      |      | vmovupd xmm1, xmmword ptr [r8+rax*8]
|   2      | 0.5         | 0.5  | 0.5     0.5 | 0.5     0.5 |      |      |      |      | vfmadd213pd xmm1, xmm2, xmmword ptr [rcx+rax*8]
|   2      |             |      | 0.5         | 0.5         | 1.0  |      |      |      | vmovups xmmword ptr [rcx+rax*8], xmm1
|   1*     |             |      |             |             |      |      |      |      | add rax, 0x2
|   0*F    |             |      |             |             |      |      |      |      | js 0xffffffffffffffe3
Total Num Of Uops: 6

IACA утверждает, что js макро-предохранителей с add, что не согласуется с Агнером и счетчиками производительности из утилиты testp.См. Выше, v2 пропорционален 7*n/vec_size, а v3 пропорционален 6*n/vec_size, что, как я понимаю, означает, что js не является макро-предохранителем.

Я думаю, что авторы ссылки дополняют числоинструкции должны были также учитывать основные циклы и, возможно, упс.

Ответы [ 2 ]

0 голосов
/ 22 февраля 2019

В дополнение к ответу @ wim об использовании _bzhi_u32 вместо _bextr_u32 вы должны:

  • Маскировать инструкции _mm512_loadu_pd в конце, чтобы избежать загрузки неверной памяти (https://stackoverflow.com/a/54530225), или делайте арифметику с неконечными значениями.
  • Используйте 64-битные целые числа везде (фактически со знаком или без знака), чтобы избежать расширения знака movsxd. Как правило, это хороший совет для 64-битных систем,если вам не нужно хранить много индексных переменных.
  • Используйте i!=0 вместо i<0 в качестве условия цикла, чтобы получить jne вместо js, так как это лучше сочетается с addинструкция: https://stackoverflow.com/a/31778403
  • Некоторые второстепенные вещи, вместо n2=n-r, вы также можете вычислить n2 = n & (-8) или n2 = n ^ r. Не уверен, если это имеет значение (ICC, кажется, не знает илипозаботиться об этом). Godbolt-Link 
void daxpy2(size_t n, double a, const double x[], double y[]) {
  __m512d av = _mm512_set1_pd(a);
  size_t r = n&7, n2 = n & (-8);
  for(size_t i=-n2; i!=0; i+=8) {
    __m512d yv = _mm512_loadu_pd(&y[i+n2]);
    __m512d xv = _mm512_loadu_pd(&x[i+n2]);
    yv = _mm512_fmadd_pd(av, xv, yv);
    _mm512_storeu_pd(&y[i+n2], yv);
  }
  __mmask8 mask = _bzhi_u32(-1, r);
  __m512d yv = _mm512_mask_loadu_pd(_mm512_undefined_pd (), mask, &y[n2]);
  __m512d xv = _mm512_mask_loadu_pd(_mm512_undefined_pd (), mask, &x[n2]);
  yv = _mm512_mask_fmadd_pd(av, mask, xv, yv);
  _mm512_mask_storeu_pd(&y[n2], mask, yv);
}

Чтобы еще больше сократить количество инструкций, вы можете использовать приращение указателя, например, как это (это увеличивает инструкции внутри лупс однако).

0 голосов
/ 22 февраля 2019

Вы можете сохранить одну инструкцию, если используете следующую внутреннюю характеристику BMI2: 

  __mmask8 mask = _bzhi_u32(-1, r);

вместо __mmask8 mask = (1 << r) -1;.См. Godbolt link .

Инструкция bzhi обнуляет старшие биты, начиная с указанной позиции.С операндами регистров bzhi имеет задержку 1 цикл и пропускную способность 2 за цикл.

...