Вопросы с тегом ieee-754

0 голосов

3 ответов

Как здесь выполняется добавление double и действительный способ определить, что результат не может быть представлен

Jim / 03 августа 2020

2 голосов

1 ответ

Преобразование числа из ячейки Excel в шестнадцатеричный формат IEEE 754

AugustinLopez / 02 августа 2020

2 голосов

1 ответ

Чтение десятичного представления с плавающей запятой из CSV с pandas

George / 01 августа 2020

0 голосов

1 ответ

Найдите реальный пример ошибки с плавающей запятой

Álvaro González / 01 августа 2020

1 голос

2 ответов

Связанные полномочия с плавающей запятой

BeeOnRope / 09 июля 2020

1 голос

0 ответов

Низкая производительность оператора std :: complex * на некоторых компиляторах

Jonny Taylor / 21 июня 2020

1 голос

1 ответ

Результат операции округления в меньшую сторону в IEEE 754

AmiguelS / 07 мая 2020

0 голосов

4 ответов

Как рассчитать точность типа float и имеет ли это смысл?

Evgeniy Terekhin / 05 мая 2020

0 голосов

1 ответ

Восстановите двоичный код IEEE754 с плавающей запятой из целого числа с фиксированной запятой без FPO

Jussi Hietanen / 03 мая 2020

0 голосов

0 ответов

Как написать последовательность инструкций MIPS, чтобы разделить плавающее число в X на (-4), без использования какой-либо инструкции с плавающей запятой.

cvsrt / 27 апреля 2020

2 голосов

2 ответов

C ++ 11: Вывести `double` как hex?

emacs drives me nuts / 22 апреля 2020

0 голосов

0 ответов

Преобразование 4 * 2 ^ -129 в единое представление IEEE754

Gerome / 21 апреля 2020

0 голосов

1 ответ

Нахождение наибольшего и наименьшего нормализованного значения на основе плавающей запятой IEEE

Ibim_Laha / 20 апреля 2020

0 голосов

2 ответов

Компьютер сначала округляет числа в операциях или округляет результат?

Alk / 09 апреля 2020

0 голосов

1 ответ

Быстрый и точный потолок / покрытие с плавающей точкой ближайшего шага без Decimal.quantize

Joel Richard / 06 апреля 2020

3 голосов

1 ответ

Сумма NaN: как рассчитывается базовая битовая комбинация?

Peter Littig / 26 марта 2020

0 голосов

2 ответов

MIPS, неожиданный (нехватка) результат от add.s

Codeblockz / 23 марта 2020

2 голосов

1 ответ

Распаковать IEEE 754 с плавающей точкой

WK123 / 21 марта 2020

0 голосов

1 ответ

ATmega64a плавать до IEEE-754 неожиданный результат

user1757006 / 17 марта 2020

0 голосов

1 ответ

pythoni c способ получить двоичное представление числа (int, float или double)

zell / 12 марта 2020

3 голосов

2 ответов

Есть ли ошибка в контролируемом округлении с использованием `exp`?

ridgeworks / 11 марта 2020

0 голосов

1 ответ

Преобразование из десятичного в IEEE 8-битное представление с плавающей запятой

Helen Grey / 04 марта 2020

0 голосов

0 ответов

Преобразование из IEEE с плавающей запятой в двоичную, когда показатель находится вне диапазона

Uberi_Puip / 27 февраля 2020

0 голосов

0 ответов

Преобразование из десятичной в плавающую точку IEEE, когда показатель отрицателен

Uberi_Puip / 26 февраля 2020

0 голосов

1 ответ

Округление IEEE чисел с плавающей точкой

Uberi_Puip / 26 февраля 2020