преобразование с плавающей запятой в фиксированное с различными коэффициентами масштабирования - PullRequest
Новая
       26

преобразование с плавающей запятой в фиксированное с различными коэффициентами масштабирования

0 голосов
/ 20 августа 2010

Может кто-нибудь, пожалуйста, дайте мне знать, в чем будет разница между этими подходами, когда я преобразую фиксированный в плавающий и плавающий в фиксированный.

а) int a=32767; float b = 32765*(1/32767) // 16 bit scaling factor int c = b*32767;

б) int a=32767; float b = 32765*(1/1.0) // scaling factor=1 int c = b*1;

а) int a=32767; float b = 32765*(1/0x80000) // 24 bit scaling factor int c = b*(0x80000);

Если моя машина использует представление с фиксированной точкой Q23, что мне следует использовать?

1 Ответ

1 голос
/ 16 октября 2010

Я не нашел подробной информации о «представлении с фиксированной точкой Q23», которое использует ваша машина, поэтому я составил собственное определение, написал несколько процедур преобразования и проверил их на несколько значений: 

#include <limits.h>
#include <stdio.h>
#include <stdlib.h>

/**
 * q23 is a fixed-point two's-complement type:
 * - 1 bit sign,
 * - 8 bit integer part,
 * - 23 bit fraction part.
 *
 * long is assumed to be 32 bit two's complement without padding bits.
 */
typedef long q23;

static q23
cvt_float_to_q23(float f) {
  return f * (1 << 23);
}

static float
cvt_q23_to_float(q23 x) {
  return ((float) x) / (1 << 23);
}

/*
 * Here starts the testing code.
 */

static unsigned errors = 0;

static void
assert_q23_is(q23 fixed, float f) {
  if (cvt_q23_to_float(fixed) != f) {
    fprintf(stderr, "E: cvt_q23_to_float(%08lx) expected %.10f, got %.10f\n",
        fixed, f, cvt_q23_to_float(fixed));
    errors++;
  }
}

static void
assert_float_is(float f, q23 fixed) {
  if (cvt_float_to_q23(f) != fixed) {
    fprintf(stderr, "E: cvt_float_to_q23(%f) expected %08lx, got %08lx\n",
        f, fixed, cvt_float_to_q23(f));
    errors++;
  }
}

static void
assert_equals(q23 fixed, float f) {
  assert_q23_is(fixed, f);
  assert_float_is(f, fixed);
}

int
main() {
  /* Some values have equivalent representation. */
  assert_equals(LONG_MIN, -256.0f);
  assert_equals(LONG_MIN / 2, -128.0f);
  assert_equals(0, 0.0f);
  assert_equals(LONG_MAX / 2 + 1, 128.0f);

  /* There will be a fixpoint ... */
  assert_float_is(1.0 / 3, 0x002aaaaa);
  assert_q23_is(0x002aaaaa, 0.3333332539f);

  /* float only has 24 bits of precision */
  assert_equals(0x2aaaaac0, 256.0 / 3);

  if (errors == 0) {
    printf("ok\n");
    return EXIT_SUCCESS;
  }
  return EXIT_FAILURE;
}

Некоторые замечания:

  • Если вам нужно округленное насыщение, вы должны реализовать это самостоятельно, проверив аргумент на cvt_float_to_q23.
  • Повсюду будут ошибки округления, и они неизбежны. Обязательно обращайтесь с ними надлежащим образом.
...