Вопросы с тегом с плавающей точностью - PullRequest

Вопросы с тегом с плавающей точностью

23 голосов
3 ответов

Я хотел бы изменить точность двойного представления в строке, которую я форматирую, на основе...

Willi Ballenthin / 20 февраля 2010
2 голосов
2 ответов

Мне удалось создать простой проводник Мандельброта с использованием Open Gl и CGFX SDK,...

Robert / 04 февраля 2010
4 голосов
5 ответов

Я следую некоторым учебникам для начинающих по OpenGL в c ++, но поскольку я начинал как...

daniel / 28 января 2010
5 голосов
3 ответов
1 голос
2 ответов

Я пытаюсь построить алгоритм, который проверяет, что двойное значение является членом диапазона,...

Bulgur / 22 декабря 2009
8 голосов
4 ответов

У меня есть массив с плавающей точкой, где данные хранятся с различными десятичными точками,...

sfactor / 08 декабря 2009
14 голосов
5 ответов

Есть ли способ установить точность плавающей точки в Perl-скрипте (до 3 цифр), не меняя ее...

Igor Oks / 03 декабря 2009
1 голос
1 ответ

в этом ТАК вопрос ОП хотел опустить 0 в десятичных разрядах для его результатов. Вот пример,...

kevchadders / 02 декабря 2009
1 голос
4 ответов

Это код Jquery: function Totalprice() { var unitprice=$('#unitpay').val(); var...

Steven / 19 ноября 2009
1 голос
2 ответов

Я хочу иметь возможность сравнивать два двойных значения, не учитывая возможную потерю точности....

Anzurio / 30 июля 2009
1 голос
9 ответов

Я столкнулся с этой следующей арифметической проблемой. Но результат отличается от обычной...

Dhana / 06 апреля 2009
9 голосов
8 ответов

Мне было интересно, есть ли способ преодоления проблемы точности, которая, кажется, является...

AndyUK / 26 февраля 2009
2646 голосов
30 ответов

Рассмотрим следующий код: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Почему...

Cato Johnston / 26 февраля 2009
11 голосов
10 ответов

Представление числа с плавающей точкой одинарной / двойной / расширенной точности с точностью до...

Miguel A. Friginal / 03 февраля 2009
5 голосов
3 ответов

Мой код: a = '2.3' Я хотел отобразить a как значение с плавающей запятой. Поскольку a...

user46646 / 02 января 2009
2 голосов
6 ответов

Кажется, я теряю большую точность с помощью поплавков. Например мне нужно решить матрицу: 4.0x -2

darudude / 13 ноября 2008
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...