Вопросы с тегом математики-с-плавающей-точкой

1 голос

0 ответов

Как реализовать GNUMP в этом алгоритме чисел Бернулли, который я написал в C?

curiositydraw / 04 мая 2020

0 голосов

3 ответов

Как правильно разобрать строку со значениями с плавающей запятой с заданным количеством десятичных знаков в целое число?

M.E. / 16 апреля 2020

0 голосов

1 ответ

Остаток экспоненциального числа в Javascript

khan / 09 апреля 2020

0 голосов

2 ответов

Компьютер сначала округляет числа в операциях или округляет результат?

Alk / 09 апреля 2020

6 голосов

9 ответов

Эффективно преобразовать два целых числа x и y в число с плавающей точкой xy

tunafish24 / 05 апреля 2020

1 голос

1 ответ

Есть ли способ получить 32-битные (плавающие) значения из Math.sin () или аналогичного класса, может быть, что-то вроде Math.sin (float a)

mcbabuka / 04 апреля 2020

3 голосов

1 ответ

Сумма NaN: как рассчитывается базовая битовая комбинация?

Peter Littig / 26 марта 2020

2 голосов

3 ответов

Ошибка несоответствия типов при назначении литерала Float

Ivan Lee / 01 марта 2020

4 голосов

2 ответов

JS умное округление небольших чисел

Ferdinand / 27 февраля 2020

4 голосов

3 ответов

Что означает аббревиатура fdim?

Pyoz_ / 14 февраля 2020

1 голос

0 ответов

Как обработать точность десятичных чисел в Python и преодолеть ограничения двоичного представления в компьютерах?

Jaqueline Passos / 30 января 2020

1 голос

0 ответов

Можно ли вручную увеличить точность двойной битовой строки с помощью вычислений

Chris Delpire / 11 января 2020

2 голосов

1 ответ

Как умножить double (с плавающей запятой) на целочисленный тип (32-разрядный, 64-разрядный, 128-разрядный и т. Д. c.) Вручную

Chris Delpire / 07 января 2020

1 голос

2 ответов

Примерно обратимая функция от пары поплавков до одного поплавка?

Некоторое время назад я наткнулся на пару функций в каком-то коде CAD, чтобы закодировать набор...

Logan R. Kearsley / 22 октября 2019

5 голосов

1 ответ

Почему sqrt (x * x + y * y)! = Math.hypot (x, y) в Python 3.8?

Я пытаюсь запустить несколько тестов на новом великолепном Python 3.8 и обнаружил проблему с math

Eugene Yarmash / 15 октября 2019