noob здесь хочет вычислить сложный процент на iPhone. float principal; float rate; int...
Я пишу числовое программное обеспечение в реальном времени на C ++, в настоящее время компилирую...
Почему в первом примере выводится неверный результат? perl -le 'print $x = 100*1.15 % 5'...
Работая над простым упражнением по программированию, я создал цикл while (цикл DO в Фортране),...
Исходные данные: static double[] felix = new double[] { 0.003027523, 0.002012256, -0.001369238, -0
У меня проблема с точностью до двойного после выполнения некоторых операций над преобразованной...
В Java я запускаю: System.out.println(Math.log(249.0/251.0)); Вывод: -0,008000042667076265 В C # я...
У меня есть метод, который работает с некоторыми географическими координатами в .NET, и у меня есть...
Я столкнулся с проблемой при делении double на int. Фрагмент кода: double db = 10; int fac = 100;...
У меня есть некоторый код, который получает начальное значение (ненулевое) для Double с...
В Java арифметика с плавающей точкой не представляется точно. Например этот код Java: float a = 1
У меня есть небольшой трехмерный векторный класс в C # 3.0, основанный на struct, в которой в...
Почему эта программа на C выдает «неправильный» вывод? #include<stdio.h> void main() { float...
Для краткости, допустим, я хочу вычислить выражение a / (b - c) на float с. Чтобы убедиться, что...
В большинстве случаев я понимаю, что тест сравнения с плавающей запятой должен выполняться с...
В Visual C ++ я написал следующий пример в программе на C ++: float f1 = 42.48f; double d1 = 42.48;...
Преобразует Фиксированный Pt. (фиксированный n бит для дробной части) в IEEE двойной сейф? т.е.:...
HI Я пытаюсь использовать надежные предикаты для вычислительной геометрии от Джонатана Ричарда...
проблема. Компилятор Microsoft Visual C ++ 2005, 32-разрядная версия Windows XP SP3, 64-разрядный...
Мне нужно представить двойное (64-разрядное) число IEEE 754-1985 с плавающей запятой в...
У меня есть переменная TDateTime, которой присваивается значение во время выполнения 40510.416667
(int)(33.46639 * 1000000) возвращает 33466389 Почему это происходит?
Я столкнулся со следующей проблемой: В нашей базе данных есть объекты с идентификаторами, например...
У меня есть приложение, написанное на C #, которое также вызывает некоторый C-код. Код C # получает...
Я наткнулся на очень странную ошибку. Прочитайте комментарии в коде, чтобы увидеть, в чем именно...