В чем разница между операцией с плавающей запятой одинарной точности и операцией с плавающей...
Следующее гарантирует, что любые большие числа будут точны только до сотых долей ( относится к...
В другом упражнении Брюса Экеля написанный мной код принимает метод и изменяет значение в другом...
Я хочу удалить цифры из числа с плавающей точкой, чтобы иметь фиксированное количество цифр после...
В настоящее время я пытаюсь заставить что-то работать, используя тригонометрию, но я наткнулся на...
У меня есть проект, в котором функция получает четыре 8-битных символа и должна преобразовать...
Могу ли я сравнить число с плавающей запятой с целым числом? Будет ли число с плавающей точкой...
Как мне взять четыре полученных данных байт и собрать их в число с плавающей запятой число? Прямо...
Почему следующая программа печатает то, что печатает? class Program { static void Main(string[]...
Почему double.Epsilon != std::numeric_limits<double>::min()? На моем ПК: double.Epsilon == 4
Я работаю над программой, которая производит ассемблерный код из выражений. Одной из требуемых...
Я столкнулся с этой следующей арифметической проблемой. Но результат отличается от обычной...
В " F # для ученых " Джон Харроп говорит: Грубо говоря, значения типа int приближенно действительны...
Я бы хотел поиграть с этими ловушками в образовательных целях. Общая проблема с поведением по...
После часа попытки найти ошибку в моем коде я наконец нашел причину. Я пытался добавить очень...
Сегодня вечером я прочитал несколько статей от Кахана, и его знаменитая напыщенная речь против Явы....
Как генерировать случайные числа с плавающей точкой в C ++? Я думал, что смогу взять целое число...
Мне нужна функция абсолютного значения для чисел с плавающей точкой в OCaml, и ядро языка,...
В JavaScript при преобразовании из числа с плавающей точкой в строку, как я могу получить только...
Вот мой код: x = 1.0 y = 100000.0 print x/y Мой коэффициент отображается как 1.00000e-05 Есть ли...
Мне хорошо известны все проблемы, связанные со сравнением поплавков. Это как раз причина этого...
В программе на Си, когда вы пишете литерал с плавающей точкой, такой как 3.14159, существует ли...
Вероятно, это вопрос к эксперту x86 FPU: Я пытаюсь написать функцию, которая генерирует случайное...
Я пытаюсь проанализировать два значения из таблицы данных. Поля являются числовыми, и когда они...
Я могу придумать несколько способов, например. Convert.ToInt32(floatingPoint) - floatingPoint == 0;...