C ++ функция для нарезки очень маленьких числовых значений - PullRequest
1 голос
/ 25 сентября 2011

Есть ли функция C ++, которая обрезает очень маленькие числовые значения, которые появляются из-за приближения чисел с плавающей запятой в CPU к нулю? Я хочу использовать это в вычислении комплексного числа, чтобы оно могло отображаться как в действительной, так и в мнимой частях.

1 Ответ

6 голосов
/ 25 сентября 2011

Такой функции не существует. Проблема в том, что «маленький» относительный. Если вы работаете с очень большими числами, 1.0 можно считать достаточно маленьким, чтобы нарезать. Точно так же, если вы работаете с маленькими числами, 10^-30 все еще можно считать значимым.

...