Я знаю, что следующее поведение - старая проблема, но все же я не понимаю. System.out.println(0.1 +...

Привет, я переписываю скрипт из MATLAB в C ++, используя библиотеку armadillo для линейной алгебры...

Я очень слабо разбираюсь в математике и имею проблемы с алгоритмом изменения размера изображения.Я...

Я работаю на 32-разрядной машине и могу подтвердить, что длинные значения могут порваться,...

У меня есть следующий фрагмент кода: #include <cstdio> int main() { if ((1.0 + 0.1) != (1.0 +...

Сколько всего чисел может быть представлено в формате одинарной точности и в формате двойной...

У меня следующая проблема: double a = 6.005; double b = 5.995; Я хочу установить точность двойных 2...

Здесь появляется новый вопрос после моего предыдущего вопроса : Я расширил код для ввода / вывода...

У меня есть двойник в Javascript, значение которого, например, 1.0883076389305e-311.Я хочу выразить...

Я делал матричный класс (как учебное упражнение), и наткнулся на него и выполнил во время...

Я тестировал часть своего кода, в javascript я добавил .1 + .2, и он дает мне .30000000000000004...

Я хотел бы отправить несколько чисел с плавающей запятой двойной точности по сети. (стандартный C,...

Пытаясь смешать точность в простой программе - с использованием как реальной, так и двойной - и...

У меня есть формула расстояния, использующая широту и долготу: distance = EARTH_MILES_RADIUS * Math

Я запрашиваю базу данных sqlite для моего приложения для Android. Затем я использую простой адаптер...

Я создаю приложение на основе loc, используя CLLocationManager и locationManager:...

Вот код NSDate* d = [NSDate dateWithTimeIntervalSince1970:32.4560]; double ti = [d...

Я работаю над переносом функции sqrt (для 64-битных двойных кодов) с fdlibm на инструмент проверки...

Я заметил, что когда я сохраняю двойное значение, такое как, например, x = 0.56657011973046234, в...

Рассмотрим следующий фрагмент кода float num = 281.583f; int amount = (int) Math.round(num*100f);...

Я пишу функцию, которая вычисляет значение PI и возвращает его как двойное число. Все идет...

Я изучаю компьютерную арифметику. Книга, которую я использую (Паттерсон и Хеннесси), перечисляет...

Я знаю, что это странный вопрос, но способен ли JavaScript работать с double, а не с одинарными...

Я имею дело с физическими объектами, такими как время, скорость и расстояние, и выполняю простую...

Я пытаюсь портировать _controlfp (_CW_DEFAULT, 0xffffffff);с WIN32 на Mac OS X / Intel.Я понятия не...