У меня есть двоичный файл, который представляет собой простой список 32-разрядных чисел с плавающей...
Сегодня я отслеживал, почему моя программа получала некоторые неожиданные ошибки несоответствия...
Есть ли где-нибудь библиотека Java, которая может выполнять вычисления на IEEE 754 числах с...
Я создал следующую программу, чтобы найти битовую комбинацию чисел с плавающей запятой.но я получил...
Я видел длинные статьи, объясняющие, как можно хранить числа с плавающей запятой и как выполняется...
Может кто-нибудь сказать, как я могу преобразовать шестнадцатеричную строку в соответствующее ей...
У меня есть вопрос низкого уровня: Давайте предположим, что у нас есть десятичное число 0,1 (мы...
Итак, я знаю, что IEEE 754 определяет некоторые специальные значения с плавающей запятой для...
Я хотел бы задать вопрос, следующий за этим , на который довольно хорошо отвечает проверка...
Как бы число 0,1011 * 2-101 было представлено в этом формате? Я предполагаю, что показатель будет...
Я пытаюсь преобразовать двоичный формат IEEE двоичного формата в целое число. Я использую следующий...
Может кто-нибудь объяснить мне шаги для преобразования числа в десятичном формате (например, 2+...
Что быстрее: private static boolean isFinite(float x) { return !(x != x || x == Float
Учитывая уравнение ax^2 + bx + c, мы знаем, что дискриминант D = b^2 - 4ac говорит нам, будет ли...
Я делаю некоторые математические вычисления (пытаюсь преобразовать код Matlab в C ++, используя...
Вдохновленный этим вопросом , я пытался выяснить что именно там происходит (мой ответ был более...
У меня есть программа javascript (запущенная в jsdb, которая использует Mozilla Spidermonkey 1.8, а...
Мне нужно преобразовать двоичное число 0000 0110 1101 1001 1111 1110 1101 0011 в IEEE с плавающей...
Есть ли способ гарантировать результаты кросс-платформенных регрессионных тестов для вычисления с...
Как я могу изменить 32-битное шестнадцатеричное значение на значение с плавающей запятой согласно...
Если у меня есть плавающий гекс IEEE 424ce027, как мне преобразовать его в десятичный? unsigned...
Пожалуйста, обратите внимание на следующее содержание: Я понимаю, как преобразовать double в...
В MATLAB (r2009b) у меня есть переменная uint32, содержащая значение 2147484101. Это число (его 4...
Я изучаю представление чисел с плавающей точкой IEEE 754, и в моем учебнике написано: Чтобы...
Фон Требование к компаратору для типа ключа ассоциативного контейнера (например, std :: map)...