Вопросы с тегом точность

0 голосов

0 ответов

Метрики моделирования

Shamima Paurobally / 15 марта 2020

0 голосов

2 ответов

kotlin оператор rem не дает мне правильный ответ

Saeed Bahari / 14 марта 2020

0 голосов

1 ответ

Продолженные дроби и уравнение Пелла - численные вопросы

kabanus / 12 марта 2020

1 голос

2 ответов

Python квадрат root проблема с L oop, возвращает низкую десятичную точность

Bili Debili / 11 марта 2020

0 голосов

1 ответ

Java - будь точнее с двойным

Creart / 10 марта 2020

1 голос

3 ответов

Численные ошибки в Керасе против Numpy

EliteKaffee / 10 марта 2020

2 голосов

1 ответ

Python / Mpmath: почему я не получаю десятичные точки для деления большого числа, а делаю для меньшего числа

Harry / 06 марта 2020

3 голосов

3 ответов

Как избежать того, чтобы файл math.sin (math.pi * 2 * VERY LARGE NUMBER) имел намного больший запас ошибок, чем math.sin (math.pi * 2)?

Harry / 06 марта 2020

0 голосов

1 ответ

F1 - оценка с несбалансированными данными

metalrt / 06 марта 2020

0 голосов

1 ответ

Вольфрам альфа и арифметика с плавающей точкой c (потеря значимости)

lukk / 04 марта 2020

0 голосов

0 ответов

Керас, точный отзыв, редкий

midou / 04 марта 2020

0 голосов

0 ответов

Javascript точное решение?

dmorg / 02 марта 2020

0 голосов

1 ответ

Boost C ++, как вывести все цифры значений с плавающей запятой без знака степени?

Huy Đức Lê / 01 марта 2020

2 голосов

2 ответов

Python умножение с потерей точности с плавающей запятой

eigenvalues_question / 01 марта 2020

1 голос

3 ответов

R: есть ли способ связать столбцы без нумерации c

Adrian / 29 февраля 2020

3 голосов

0 ответов

Точность C ++ по умолчанию для научного c плавающего шестнадцатеричного и десятичного вывода

BenevolentDeity / 29 февраля 2020

0 голосов

0 ответов

Распечатка высокой точности (в настоящее время печатает значение в научной нотации c)

user2771729 / 29 февраля 2020

0 голосов

0 ответов

python numpy float64. Преобразование «точных» значений в float64 () дает «мусор» после 16-го значимого di git (десятичные разряды)

Alexander Pyhtin / 27 февраля 2020

1 голос

2 ответов

несоответствие arctan2 в NumPy

vlazzarini / 27 февраля 2020

0 голосов

0 ответов

преобразование приблизительного значения типа float в числовое значение

Alex Kushnir / 25 февраля 2020

0 голосов

0 ответов

Как записать LREAL значения в файл?

Andrew Paul / 25 февраля 2020

0 голосов

1 ответ

Разница между Java и postgres значением BigDecimal / numeric

Bob / 24 февраля 2020

0 голосов

1 ответ

Юниты на последнем месте - Интуиция

Prashant Pandey / 22 февраля 2020

1 голос

0 ответов

Разница между двумя методами TensorFlow для смешанной точности

Jared Nielsen / 18 февраля 2020

1 голос

1 ответ

Почему добавление точных чисел дает неточный результат в R?

Sam / 17 февраля 2020