Так глубоко внутри библиотеки мне нужна функция, которая выделяет строку, записывает...

Я пытаюсь реализовать уменьшение диапазона в качестве первого шага реализации функции синуса. Я...

Я пытаюсь сделать приложение для iPad. В одной из функций я должен возвращать значение в...

У меня есть приложение, которое тратит около 80% своего времени на вычисление центроида большого...

Я получил следующий вопрос: Вы хотите вычислить значение числа с плавающей запятой для сохранения в...

Кто-нибудь знает, сколько памяти используется наглым ndarray? (скажем, 10 000 000 элементов с...

«Думаю, я знаю», что все блоки с плавающей запятой для процессоров X86 / X64 имеют ширину 80 бит,...

Есть подвох! У меня есть IEEE 754 с плавающей запятой одинарной точности (32 бита), хранящиеся в...

Скажем, у меня есть некоторые значения вершин, которые я читаю в своем приложении как NSString:...

, если у нас есть 10 бит с плавающей точкой.4 бита = экспонента, а 5 бит - дробь.Как рассчитать...

Я сталкивался с этой проблемой раньше, но с числами с плавающей запятой. Похоже на этот другой пост...

Я сделал программу, которая найдет факториал числа. Но для целочисленного типа данных ответ до 12,...

Я пытаюсь хранить суммы в долларах в базе данных sqlite, предоставленной Android, но, похоже, она...

У меня есть такой оракульный запрос: SELECT floatColum0,floatColum1,ROUND(floatColum2,2) from...

Я ищу способ урезать float в int быстрым и переносимым (IEEE 754) способом.Причина в том, что в...

Я пытаюсь рассчитать соотношение сторон для изображения: Log.d("img.width:", String

Существует ли алгоритм, который может преобразовывать 32-разрядное целое число в его целочисленном...

Я работаю над вероятностными моделями, и, делая выводы из этих моделей, оценочные вероятности могут...

Моя логика состоит в том, чтобы накапливать все поплавки, проверять, содержит ли каждый пиксель...

Я использую константу с плавающей точкой и задаю частную переменную с плавающей точкой для объектов...

Я анализирую некоторую информацию о вершинах из файла XML, который выглядит следующим образом...

Я хочу проверить, что данная переменная типа double / float имеет фактическую битовую комбинацию...

Я попытался сделать функцию javascript для validate integer values из текстового поля. Каков...

В некоторых ситуациях существует несколько методов для вычисления одного и того же значения. Прямо...

получить ошибку компилятора при попытке сделать float_val=float_val<<1; Выдает ошибку «ошибка...