Вопросы с тегом с плавающей точкой - PullRequest

Вопросы с тегом с плавающей точкой

1 голос
2 ответов

Как я понимаю, числа с плавающей запятой хранятся в XMM регистрах, а не в регистрах общего...

Joe / 11 апреля 2019
1 голос
1 ответ
0 голосов
2 ответов

Я написал алгоритм для MCU, который выполняет выражение двух параллельных сопротивлений перед...

Eugenia Suarez / 08 апреля 2019
0 голосов
2 ответов

У меня есть эта функция, она округляет все числа до 8 десятичных знаков. exports.roundDown =...

Ivan Pedrero / 08 апреля 2019
0 голосов
1 ответ

Мне нужно отсортировать список строк на основе значения с плавающей запятой в середине строки. Я...

Zoro-Zen / 07 апреля 2019
0 голосов
1 ответ

Я использую psql для взаимодействия с базой данных postgresql, я выполнил свой запрос select...

zyxue / 06 апреля 2019
0 голосов
1 ответ

Когда я делаю некоторые вычисления с гением, я получаю ответы в виде дробей. Например: genius>...

FalcoGer / 03 апреля 2019
3 голосов
3 ответов

Для относительно простых чисел, числовая точность достаточна для их точного представления. Например...

Viktor / 03 апреля 2019
0 голосов
3 ответов

если я ввел 5.123 как я могу сохранить его в памяти как 5.1 в Яве ПРИМЕЧАНИЕ: мне не нужно...

Adham / 02 апреля 2019
4 голосов
1 ответ

Я пытаюсь запрограммировать умножение матриц в C, используя встроенные функции simd. Я был почти...

abdul rahman taleb / 02 апреля 2019
1 голос
1 ответ

Недавно я хотел как можно быстрее найти в массиве числовые значения (целые, двойные числа и числа с...

I2obiN / 01 апреля 2019
0 голосов
2 ответов

Мне нужно сгенерировать случайное число от -0,5 до 0,5. Я пытался решить проблему переполнения...

xxish / 31 марта 2019
0 голосов
1 ответ

У меня есть следующий 24-разрядный двоичный файл: 0101 0011 1111 1101 0111 1101 И мне нужно...

Ari Victor / 31 марта 2019
4 голосов
3 ответов

У меня есть проблема, которую можно свести к этой постановке задачи: Учитывая серию пар, где каждый...

MineR / 29 марта 2019
3 голосов
2 ответов

Может ли быть разница в битовом представлении между прямым присваиванием литерала с плавающей...

Jan15 / 29 марта 2019
0 голосов
0 ответов

Количество столбцов, содержащих целые значения 0/1 в моей таблице Hive, перезаписываются как...

RobertF / 28 марта 2019
0 голосов
2 ответов

У меня есть два числа - 3,125000 Мбайт и 2,954880 Мбайт. Я хочу сравнить их, и оно должно вернуть...

Prawn Hongs / 27 марта 2019
0 голосов
1 ответ

Я написал простой код на C о трафике кассового аппарата, но я всегда получаю «Исключение с...

marcellnemeth / 27 марта 2019
1 голос
0 ответов

В этом вопросе спрашивающий задавался вопросом, можно ли ожидать, что операции с плавающей запятой...

fuglede / 27 марта 2019
1 голос
2 ответов

Для некоторого машинного управления в python я записываю результаты в текстовый файл, который...

seaver / 27 марта 2019
0 голосов
1 ответ

Я получаю 4 байта данных через интерфейс (Bluetooth, Список). Данные представляют число с плавающей...

fastfox / 26 марта 2019
0 голосов
1 ответ

Я пытаюсь понять некоторый код, который создает значение непрозрачности из исходного значения цвета

Continuity8 / 26 марта 2019
0 голосов
0 ответов

привет и спасибо за потраченное время> ... Я пытался решить эту проблему миллионы раз, но я не мог,...

Maram Mubarak / 26 марта 2019
0 голосов
0 ответов

Я работаю с фреймами данных, считанными из csv-файла, используя pandas.Я хотел сделать некоторую...

user8465900 / 25 марта 2019
1 голос
1 ответ

Я только что выучил Python (3.x), и я застрял с преобразованием строки HEX в Float.У меня есть...

messymon / 25 марта 2019
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...