Моя проверка работоспособности не удалась, потому что двойная переменная не содержит ожидаемого...

У меня есть отчет, который должен возвращать что-то вроде SELECT brand, ROUND(SUM(count * price) /...

Я пытаюсь усечь десятичные числа до десятичных знаков.Примерно так: 5.467 -> 5.46 985.943 ->...

У меня есть программа, в которой я имею дело с множеством очень маленьких чисел (ближе к нижнему...

Если число с плавающей запятой многократно умножается на число, которое меньше единицы, возможно ли...

Когда число с плавающей запятой необходимо усечь до определенной цифры после числа с плавающей...

Я ломал голову над тем, как работать с отображением валюты и математикой в ​​PHP, и долгое время...

Я думал об этой проблеме последний несколько дней, и я изо всех сил пытаюсь сформулировать свой...

Каждый раз, когда я начинаю новый проект и когда мне нужно сравнить некоторые переменные с...

Я видел эту ошибку во многих сообщениях в блоге: http://atifsiddiqui.blogspot

Я хотел бы знать хороший способ проверки, является ли число x рациональным (существуют два целых...

Обсуждение этого ответа только что заставило меня задуматься о равенстве и эквивалентности чисел с...

Я обнаружил отрицательный ноль в выводе из Python; например, он создан следующим образом: k = 0.0...

Мне интересно, если число представляется одним способом в представлении с плавающей запятой, будет...

Испытывая проблему с нахождением первых k цифр num ^ num, я написал ту же программу на C ++ и...

Почему это: int main(void) { short w = 30; return 1.2 * w; } возврат 35?

какая-то программа на C, которая выполняет обширные вычисления с плавающей запятой, получает...

При изучении точности в арифметике с плавающей запятой и различных методах ее избежания (с...

У меня есть sql: SELECT Sum(Field1), Sum(Field2), Sum(Field1)+Sum(Field2) FROM Table GROUP BY...

Я пытаюсь распечатать число с плавающей точкой, которое имеет значение 5 Что я получу, когда...

Я пишу средство проверки моделей, которое опирается на вычисление коэффициента, который интенсивно...

$a = ((0.1 + 0.7) * 10) == (int)((0.1 + 0.7) * 10); PHP возвращает false. Может кто-нибудь объяснить...

Я вижу, что для следующего кода получается результат, как показано ниже, есть идеи о том, почему...

Я пытаюсь выяснить уровень точности для различных форматов с плавающей запятой в C (то есть float,...

Я делаю приложение, которое прослушивает цены, которые регулярно обновляются, но иногда мой...