Я знаю, что вы не можете полагаться на равенство между значениями типа double или decimal, но мне...

Кто-нибудь знает, как узнать точность long double на конкретной платформе? Кажется, я теряю...

Я суммирую два отрицательных числа: char * lhs = "-2234.6016114467412141"; char * rhs =...

Как получается, что Java BigDecimal может быть таким болезненным? Double d = 13.3D; BigDecimal bd1...

Я хочу, чтобы a было округлено до 13,95 . >>> a 13.949999999999999 >>> round(a,...

Кто-нибудь знает почему, используя SQLServer 2005 SELECT CONVERT(DECIMAL(30,15),146804871

У меня есть номер из базы данных Oracle 47306832975095894070.85314746810624532. Когда я добавляю...

Мой код: a = '2.3' Я хотел отобразить a как значение с плавающей запятой. Поскольку a...

Представьте, что у вас есть большой массив чисел с плавающей запятой разных размеров. Как правильно...

В нашем приложении в настоящее время мы принимаем решение о сохранении всех инженерных данных в...

Мне нужно округлить десятичные числа до шести мест с помощью JavaScript, но мне нужно рассмотреть...

public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5

Я работаю с большими числами, которые я не могу округлить. Используя стандартную математическую...

Если у меня есть следующий код (это было написано в .NET) double i = 0.1 + 0.1 + 0.1; Почему i не...

double r = 11.631; double theta = 21.4; В отладчике они отображаются как 11.631000000000000 и 21

Я слышал, что вы можете сдвинуть число вправо на .5 вместо использования Math.floor (). Я решил...

Я пишу приложение, которое читает большие массивы с плавающей точкой и выполняет с ними несколько...

Моё клиентское приложение экспортирует и импортирует довольно много переменных типа real через...

Конечно, большинство языков имеют библиотечные функции для этого, но предположим, что я хочу...

Я пытаюсь заполнить строку двойным значением, используя sprintf, например: sprintf(S,...