Эффективно переставить и объединить 16 3-битных чисел в arm neon - PullRequest
Новая
       59

Эффективно переставить и объединить 16 3-битных чисел в arm neon

0 голосов
/ 06 мая 2018

У меня есть массив из шестнадцати чисел без знака, где каждое число меньше 8 (например, оно может быть представлено 3 битами). Эти шестнадцать чисел загружаются в q-регистр uint8x16_t. Мне нужно переставить и объединить их, как этот псевдокод: 

void reshuffleCombine(uint8_t src[16], uint64_t* dst)
{
    uint64 d = 0;

    d |= uint64(src[0])  << 45;
    d |= uint64(src[4])  << 42;
    d |= uint64(src[8])  << 39;
    d |= uint64(src[12]) << 36;

    d |= uint64(src[1])  << 33;
    d |= uint64(src[5])  << 30;
    d |= uint64(src[9])  << 27;
    d |= uint64(src[13]) << 24;

    d |= uint64(src[2])  << 21;
    d |= uint64(src[6])  << 18;
    d |= uint64(src[10]) << 15;
    d |= uint64(src[14]) << 12;

    d |= uint64(src[3])  << 9;
    d |= uint64(src[7])  << 6;
    d |= uint64(src[11]) << 3;
    d |= uint64(src[15]) << 0;

    *dst = d;
}

void reshuffleCombineNeon(uint8x16_t src, uint64_t* dst)
{
    uint64x1_t res;
    // ??
    vst1_u64(dst, res);
}

Я могу переставить их с 1 vld, за которым следует 1 vtbl, однако вся эта операция является одним из последних шагов и не повторяется много раз (например, 1 vld не может быть разделена между несколькими reshuffleCombines), поэтому может быть лучше используйте vtrn / vzip, если это возможно и может быть более эффективным, чем vld + vtbl. Однако главный вопрос в том, как объединить все эти шестнадцать 3-разрядных чисел в одно 48-разрядное значение (хранящееся в 64-разрядном формате). Эта функция выполняется в конце алгоритма, 16 3-битных чисел взяты из неона, и результат функций сохраняется в памяти.

Моя неоновая версия : 

void reshuffleCombineNeon(uint8x16_t src, uint32_t* dst)
{
    static const uint8_t idx0[] = { 15, 7, 14, 6, 13, 5, 12, 4 };
    static const uint8_t idx1[] = { 11, 3, 10, 2, 9,  1, 8,  0 };

    uint8x8x2_t y;
    y.val[0] = vget_low_u8(src);
    y.val[1] = vget_high_u8(src);

    uint8x8_t vidx0 = vld1_u8(idx0);
    uint8x8_t vidx1 = vld1_u8(idx1);
    uint8x8_t x0 = vtbl2_u8(y, vidx0);
    uint8x8_t x1 = vtbl2_u8(y, vidx1);

    uint8x8_t x01 = vsli_n_u8(x0, x1, 3);
    uint16x8_t x01L = vmovl_u8(x01);

    uint32x4_t x01LL = vsraq_n_u32(vreinterpretq_u32_u16(x01L), vreinterpretq_u32_u16(x01L), 10);
    x01LL = vmovl_u16(vmovn_u32(x01LL));

    uint64x2_t x01X = vsraq_n_u64(vreinterpretq_u64_u32(x01LL), vreinterpretq_u64_u32(x01LL), 20);
    x01X = vmovl_u32(vmovn_u64(x01X));

    uint64x1_t X0 = vget_low_u64(x01X);
    uint64x1_t X1 = vget_high_u64(x01X);
    X0 = vsli_n_u64(X0, X1, 24);
    vst1_u32(dst, vreinterpret_u32_u64(X0));
}

1 Ответ

0 голосов
/ 07 мая 2018

Хорошо, во что бы то ни стало, ниже приведена версия NEON, оптимизированная, насколько мне известно: 

rev64   v16.16b, v16.16b
usra    v16.2d, v16.2d, #32-3       // 8 elements (8bit)
ushll   v17.8h, v16.8b, #6
uaddw2  v16.8h, v17.8h, v16.16b     // 4 elements (16bit)
uxtl    v16.4s, v16.4h
usra    v16.2d, v16.2d, #32-12      // 2 elements (32bit)
ushll2  v17.2d, v16.4s, #24
uaddw   v16.2d, v17.2d, v16.2s      // 1 element (64bit), d16 contains the result

Это должно быть значительно быстрее, чем у вас, но опять же, это не имеет особого смысла на машинах для заказа.

...