Я пытаюсь понять, что такое ненормальное число, и я предполагаю, что показатель степени...

Я пытаюсь узнать, как работает умножение IEEE-754 одинарной точности.В частности, я смотрю на...

Я пытался обернуть голову вокруг номеров машин, таких как округление единиц измерения (u) и эпсилон...

У меня есть следующий код double temp3 = 61.01; //This can actually be various other types, but...

Хорошо, у меня простой вопрос.В своем приключении я ищу самые большие числа, которые могут быть в...

У меня есть модель мини-цинка, где у меня есть матрица расстояний: array[1..n, 1..n] of var float:...

Я работаю над системой, которая использует финансовые данные.Я получаю незначительные ошибки...

Проблема: при заданном константном выражении с плавающей запятой, можем ли мы написать макрос,...

Действительно тупой вопрос, но я новичок в python, и моя математика супер ржавая.Я запустил функцию...

Я использую библиотеку с фиксированной точкой переменными. Библиотека называется libfixmath . Я...

Я делаю домашнее задание, в котором мне нужно предложить пользователю ввести определенное...

У меня есть внешний аппаратный счетчик, который отправляет измеренные значения напряжения через...

Как рассчитать мин / макс десятичные числа, которые могут быть представлены в двоичном формате 16,...

int i=187; float f=Float.MAX_VALUE; System.out.println((f-i)==(f+i)) ; Это печатает true.Почему он...

Я хочу выполнить операцию по модулю между двумя целыми числами с плавающей точкой в ​​PostgreSQL.В...

Я хочу преобразовать 283,8 в 283.80 Используется ниже код, но не работает ... PLZ Help holder

скажем a = 580991.3636 Когда я b = np.float32(a) b 580991.4 Я после b 580991.3636 I 'Надеюсь, это...

Это моя первая публикация здесь, так что эта публикация может быть немного беспорядочной, но я...

Раньше я думал, что все числа хранятся на компьютерах в формате дополнения 2.И нет -0 в 2-х...

У меня небольшая проблема в Android Studio с вычислением, равным 0,0.Я думаю, что знаю почему, но я...

Я очень новичок в программировании, и я знаю, что это простой ответ, но я на всю жизнь не могу...

Почему Number.MAX_VALUE + Number.MAX_VALUE == Number.MAX_VALUE => false , но Number.MAX_VALUE +...

Я пытаюсь сосредоточиться на поведении с плавающей точкой (в C #).Я обратил внимание на проблему...

Я заметил кое-что странное, когда вызывал .as_integer_ratio () на некоторых поплавках.например: (2

Я изменил тип int на float в коде "Внутренний продукт" из книги ACSL-by-Example (код с типом int...