Вопросы с тегом округление-ошибка

1 голос

1 ответ

Округление числа в Javascript так, чтобы оно совпадало с C#

Merc / 28 апреля 2020

2 голосов

4 ответов

Pandas Функция isin () неправильно определяет числовые совпадения

Gflaesch / 24 апреля 2020

0 голосов

3 ответов

Об ошибке округления python и числах с плавающей точкой

Jolly / 22 апреля 2020

0 голосов

1 ответ

Десятичная ошибка округления: numpy пол и ствол c не работают правильно в python при использовании на сериях pandas

bart cubrich / 13 апреля 2020

0 голосов

1 ответ

Почему возникают ошибки округления?

LeonDevy / 03 апреля 2020

2 голосов

2 ответов

Настил до ближайшего кратного 0,2 в numpy?

Ginger / 01 марта 2020

1 голос

1 ответ

Что происходит с битами fra c, когда число с плавающей запятой является ненормальным числом?

Uberi_Puip / 28 февраля 2020

0 голосов

1 ответ

Избегайте неправильного округления при замене части массива Numpy

Shree / 06 февраля 2020

0 голосов

1 ответ

Распределение несоответствий при перемещении данных из пользовательского интерфейса в базу данных (C# на SQL сервер, с плавающего? На плавающий)

Kam Mistry / 16 января 2020

0 голосов

0 ответов

Преобразование Float в BFloat: округление с помощью умножения

Я пытаюсь реализовать преобразование FP32 в BFloat16 в Tensorflow, и здесь я наткнулся на очень...

D_s / 21 октября 2019

0 голосов

1 ответ

Как округлить число до другого числа, но только если оно находится в пределах 0,0001 от этого значения. бывший раунд с 5,999 до 6, но не с 5,93 до 6?

Квадратный корень, вызывающий длинный десятичный знак, который не равен. например, 3.199999 не...

VanGuilder11 / 15 октября 2019

Для получения более полной информации посмотрите в списке вопросов или в популярных тегах.

...