Мне было интересно, как JavaScript обрабатывает плавающие точки. Т.е. предположим, что я установил...
Хотя случай для e работает по умолчанию, я бы хотел изменить приведение по умолчанию литерала 0.1,...
Предположим, у меня есть 3 числа с плавающей точкой, которые могут быть точно представлены числом с...
В моей программе я создаю ландшафт, используя шум Perlin.Ландшафт генерируется правильно, и теперь...
У меня проблема с тем, что я хочу взять строку, которая может содержать либо дробь вроде '1/6',...
Как я могу получить константы (или parameter с, я полагаю), которые являются отрицательной и...
Я хочу познакомиться и освоиться с числами с плавающей точкой.Я делаю проект, который, надеюсь,...
Я хочу вычислить разность временных меток в миллисекундах.Разница ( time_diff ) в приведенном ниже...
Я создал набор Мандельброта в javascript, который использует gpu, но поскольку десятичные числа...
У меня есть большое число с десятичными знаками, которое я хочу преобразовать в int, но я продолжаю...
Я заметил, используя gfortran, что функция tan возвращает реальные значения того же типа, что и ее...
Context В настоящее время я оптимизирую библиотеку для научных вычислений.Я довольно новичок в...
Я ищу способ последовательно игнорировать небольшие различия между числами с плавающей запятой в R...
Я использую Matrix Multiplication Code для графических процессоров, тип данных матрицы - float, а...
Я использую jUnit для тестирования своего Java-приложения (я новичок в Java). public class MyClass...
У меня есть вход в CSV-файл, например -0.02872239612042904, -0.19755002856254578 .. со 128...
Недавно у меня было интервью, где я потерпел неудачу, и мне наконец сказали, что у меня...
У меня есть поле с плавающей точкой, и я могу рассчитать сумму в этом поле.Я хочу, чтобы эта сумма...
Предисловие: В настоящее время я пытаюсь расшифровать старый двоичный формат (разработанный в...
Debug.Log((int)(4.2f * 10.0f)); Результат: 41 (в Unity 2017.2.1p4) Результат: 42 (в Unity 5.4.3p4)...
float - 32 бита.Экспонента 8 бит.Следовательно, значение и равно 32-8 = 24 бита (минус знак бита...
Как я знаю, число с плавающей запятой одинарной точности имеет 1 бит для знака, 8 бит для...
Я кодирую файл JSON с помощью следующей функции: json_encode( $config, JSON_PRETTY_PRINT |...
Предположим, у меня есть некоторая переменная для удвоения точности x, которую я читаю из двоичного...
Вот мой код: я пытался весь день, чтобы устранить ошибку, но у меня все еще есть ошибка: TypeError:...