float vs unorm 0-> 1, какой из них более точный? - PullRequest
2 голосов
/ 20 декабря 2010
  • Float - стандартное 32-битное IEEE float
  • unorm - 32-битное (диапазон 0-> 1)

Какой из них более точный при использовании дляпредставлять данные в диапазоне 0-> 1 ?Или нет различий в точности?

1 Ответ

6 голосов
/ 20 декабря 2010

Число с плавающей запятой также представляет значения вне диапазона [0,1] (в этом диапазоне находится только около 1/4 чисел с плавающей запятой). Таким образом, в этом интервале ~ 2 ^ 30 операций с плавающей запятой, но 2 ^ 32 unorms.

Поплавки обеспечивают большую точность при приближении к нулю, но при усреднении по всему диапазону уклоны более точные. (Разрешающая способность поплавков в этом диапазоне варьируется от 2 ^ -149 до 2 ^ -24; постоянные интервалы от 2 до 32).

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...