Быстрое преобразование Фурье - ошибки округления - PullRequest
Новая
       4

Быстрое преобразование Фурье - ошибки округления

0 голосов
/ 11 августа 2011

Я преобразую изображение в частотный спектр, сворачивая его с ядром, а затем инвертирую обратно.

Я хотел спросить, как я могу справиться с ошибками округления, которые возникают во время преобразования. Например, когда я преобразую изображение, а затем немедленно преобразую его обратно, я получаю среднее значение PSNR, равное 127. (Я преобразую пиксели в формате с плавающей запятой между 0,0 и 1,0.)

Можно ли рассчитать ошибки и исправить их?

1 Ответ

2 голосов
/ 11 августа 2011

Краткий ответ: если вы хотите меньше ошибок округления, вам нужен более точный числовой формат.Кроме того, вы не можете вычислить ошибку.

Более точные форматы с плавающей запятой включают в себя:

  • x87 80-битная расширенная точность (long double)
  • Фиксированная точкаBigInteger
  • BigDecimal

Кроме того, разве PSNR 127 дБ уже не очень хорош?

...