Вопросы с тегом точность

0 голосов

1 ответ

Как появляется такой странный формат с плавающей запятой и точкой?

Hayate / 04 августа 2020

0 голосов

3 ответов

Как здесь выполняется добавление double и действительный способ определить, что результат не может быть представлен

Jim / 03 августа 2020

0 голосов

2 ответов

Как указать масштаб и точность BigDecimal в схеме при загрузке коллекции Mon go как набора данных Spark

Peewee 733 / 03 августа 2020

2 голосов

1 ответ

Каков надежный метод вычисления косинуса угла двух векторов в python?

Bryson of Heraclea / 03 августа 2020

0 голосов

1 ответ

Почему деление Python floor возвращает число с плавающей запятой, если делитель и / или дивиденд - это число с плавающей запятой?

Doot / 02 августа 2020

1 голос

2 ответов

Незначительные различия в выходных значениях (+/-) между float и double

Francis Cugler / 01 августа 2020

3 голосов

3 ответов

Как получить точное среднее значение для большого массива с плавающей запятой?

Valentin Metz / 14 июля 2020

1 голос

2 ответов

Какой вариант fmt в numpy .savetxt сохраняет бесконечную целочисленную точность?

Kagaratsch / 14 июля 2020

0 голосов

1 ответ

Истинно положительный, ложноположительный, ложно отрицательный кадр данных расчета python

Sreekiran / 12 июля 2020

0 голосов

4 ответов

Как получить только первые 3 цифры номера?

MyPointerIsBroken / 12 июля 2020

0 голосов

2 ответов

Почему преобразование целочисленной строки в float и double дает разные результаты?

Abhijit Sarkar / 12 июля 2020

0 голосов

1 ответ

Почему десятичный тип C# имеет 128 бит?

rwallace / 11 июля 2020

0 голосов

2 ответов

Ошибка с плавающей точкой c (дробная часть полностью потеряна)

user1234567 / 10 июля 2020

1 голос

4 ответов

Как ограничить округление числа с плавающей запятой только его «десятичной частью», не затрагивая «целую часть»

Mohsen Alyafei / 09 июля 2020

0 голосов

1 ответ

Как я могу вычислить значения Erlang C на сервере SQL, если тип данных float слишком мал?

Einstein X. Mystery / 20 июня 2020

0 голосов

1 ответ

Странное поведение Python точности с плавающей запятой для 1e-11

TVandMe / 19 июня 2020

0 голосов

0 ответов

Как работать с большими суммами чисел с плавающей запятой (C ++)

Yu Hao / 18 июня 2020

0 голосов

1 ответ

Производительность модели XGBoost

Asma Damani / 18 июня 2020

0 голосов

0 ответов

Как правильно сопоставить десятичное поле из Active Record с сопоставлением Searchkick

Jirico / 18 июня 2020

0 голосов

1 ответ

Учитывая выражение арифметики c с плавающей запятой, как убедиться, что его округленный результат больше истинного?

Ted / 17 июня 2020

0 голосов

1 ответ

Как обрабатывать ошибку с плавающей запятой в линейном сегменте, содержащем алгоритм точки

leonidasarch / 16 июня 2020

3 голосов

1 ответ

Почему в python math.floor (4.9999999999999999) == 5?

Ekanshdeep Gupta / 30 мая 2020

0 голосов

0 ответов

Разные значения точности в скобках и без скобок при умножении чисел в python

Deepan / 29 мая 2020

1 голос

0 ответов

Как преодолеть числовую проблему в дополнении Шура для обновления обратных матриц

Ga13 / 28 мая 2020

3 голосов

1 ответ

Как проверить, делится ли число u64 больше 2 ^ 54 на f64 с минимальной потерей точности?

Stranger6667 / 28 мая 2020