Я профилировал некоторые наши основные математические вычисления на Intel Core Duo, и, глядя на различные подходы к квадратному корню, я заметил кое-что странное: используя скалярные операции SSE, быстрее получить взаимный квадратный корень и умножьте его, чтобы получить sqrt, чем использовать собственный код операции sqrt!
Я проверяю это с помощью цикла, например:
inline float TestSqrtFunction( float in );
void TestFunc()
{
#define ARRAYSIZE 4096
#define NUMITERS 16386
float flIn[ ARRAYSIZE ]; // filled with random numbers ( 0 .. 2^22 )
float flOut [ ARRAYSIZE ]; // filled with 0 to force fetch into L1 cache
cyclecounter.Start();
for ( int i = 0 ; i < NUMITERS ; ++i )
for ( int j = 0 ; j < ARRAYSIZE ; ++j )
{
flOut[j] = TestSqrtFunction( flIn[j] );
// unrolling this loop makes no difference -- I tested it.
}
cyclecounter.Stop();
printf( "%d loops over %d floats took %.3f milliseconds",
NUMITERS, ARRAYSIZE, cyclecounter.Milliseconds() );
}
Я пробовал это с несколькими различными телами для TestSqrtFunction, и у меня есть некоторые моменты, которые действительно царапают мою голову. Хуже всего было использовать встроенную функцию sqrt () и позволить «умному» компилятору «оптимизировать». На скорости 24 нс / с плавающей запятой с использованием FPU x87 это было патетически плохо:
inline float TestSqrtFunction( float in )
{ return sqrt(in); }
Следующее, что я попробовал, было использование встроенной функции, чтобы заставить компилятор использовать скалярный код операции SSE в формате SSE:
inline void SSESqrt( float * restrict pOut, float * restrict pIn )
{
_mm_store_ss( pOut, _mm_sqrt_ss( _mm_load_ss( pIn ) ) );
// compiles to movss, sqrtss, movss
}
Это было лучше, на уровне 11,9 нс / с плавающей точкой. Я также попробовал причудливую методику аппроксимации Ньютона-Рафсона , которая работала даже лучше, чем аппаратная, при 4,3 нс / с плавающей точкой, хотя с ошибкой 1 в 2 10 (что слишком много для моих целей).
Удивительно было, когда я попробовал SSE для получения обратного квадратного корня, а затем использовал умножение, чтобы получить квадратный корень (x * 1 / & radic; x = & radic; x). Несмотря на то, что для этого требуются две зависимые операции, на сегодняшний день это было самое быстрое решение: 1,24 нс / с плавающей запятой и с точностью до 2 -14 :
inline void SSESqrt_Recip_Times_X( float * restrict pOut, float * restrict pIn )
{
__m128 in = _mm_load_ss( pIn );
_mm_store_ss( pOut, _mm_mul_ss( in, _mm_rsqrt_ss( in ) ) );
// compiles to movss, movaps, rsqrtss, mulss, movss
}
Мой вопрос в основном что дает ? Почему встроенный в аппаратный код квадратного корня SSE медленнее , чем синтезировать его из двух других математических операций?
Я уверен, что это действительно стоимость самой операции, потому что я проверил:
- Все данные помещаются в кэш, и
доступы последовательны
- функции встроены
- Развертывание петли не имеет значения
- флаги компилятора установлены на полную оптимизацию (и сборка хорошая, я проверял)
( edit : stephentyrone правильно указывает, что операции с длинными строками чисел должны использовать векторизацию SIMD-упакованных операций, например, rsqrtps & mdash; но структура данных массива здесь только для целей тестирования: что Я действительно пытаюсь измерить скалярную производительность для использования в коде, который нельзя векторизовать.)