Мне нужно представить двойное (64-разрядное) число IEEE 754-1985 с плавающей запятой в...

Я понимаю, что первый бит - это знак, а следующие 8 бит - это показатель степени. Так что в этом...

Как мне перейти к ручному изменению десятичного числа (основание 10) на формат с плавающей точкой...

Я не использую Tcl в своей повседневной работе. Однако у меня есть коллега, который иногда...

Я хочу преобразовать число с плавающей запятой в Haskell в строку, содержащую 32-разрядное...

Я работаю над приложением, которое выполняет много вычислений с плавающей запятой. Мы используем VC...

Почему показатель в поплавке смещен на 127? Что ж, реальный вопрос: в чем преимущество такой...

Я поддерживаю программу, которая берет данные из программы PDP-11 (эмулированной!) И помещает их в...

Я недавно немного прочитал о IEEE 754 и архитектуре x87. Я думал об использовании NaN в качестве...

У кого-нибудь есть рекомендации по хорошему алгоритму сжатия, который хорошо работает со значениями...

Я оптимизирую функцию сортировки для библиотеки числовых данных / статистики, исходя из...

Предположим, я делаю эту операцию: (X / const) * const с аргументами двойной точности,...

Я написал поучительный пример для коллеги, чтобы показать ему, почему тестирование поплавков на...

Документация для java.lang.Double.NaN говорит, что это Константа, содержащая значение Not-a-Number...

Я хотел бы знать, могу ли я предположить, что одни и те же операции над одними и теми же 64-битными...

В C ++ у меня есть класс bigint, который может содержать целое число произвольного размера. Я хотел...

Как мне найти значение дополнения двухбайтового числа 0xFF72, равное "? Начну ли я с преобразования...

У меня есть поток данных, который состоит из 64-разрядных стандартных IEEE 754 чисел с плавающей...

Хотя, насколько я помню, IEEE 754 ничего не говорит о режиме сброса в ноль для ускорения обработки...

Я беру 8-значное шестнадцатеричное число в качестве 754-разрядного числа с плавающей запятой IEEE и...

Есть ли у кого-нибудь пригодные фрагменты кода для преобразования IEEE 754 double в непосредственно...

У меня есть длинное целое число без знака, которое представляет число с плавающей запятой в формате...

Какое наибольшее целое число без плавающих значений можно хранить в двойном типе IEEE 754 без...

Функции python frexp и ldexp разделяются на мантиссу и экспоненту. Кто-нибудь знает, выставляет ли...

Мне нужна кроссплатформенная библиотека / алгоритм, который будет конвертировать между 32-битными и...