Почему этот бит кода, const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1,...
Когда я определяю константы в C, которые не могут быть точно представлены в десятичной системе,...
Я пытаюсь найти приближение минимаксного полинома для синуса и косинуса, используя алгоритм обмена...
Я перепроектировал свою базу данных SQL на основе Firebird.В рамках этого процесса я создал новую...
Я делаю калькулятор пропускной способности, в котором пользователь вводит данные и...
Я собираю (большой) массив с плавающей точкой, каждый с плавающей точкой занимает 4 байта. Есть ли...
Я использую поплавки для указания координат текстуры в диапазоне 0-1.OpenGL любит вещи в этом...
Я пытаюсь реализовать функции косинуса и синуса с плавающей запятой (но у меня нет аппаратного...
Я пытаюсь сохранить число Пи до примерно 200 знаков после запятой, Эрланг объединяет его до 15 цифр...
Я занимаюсь разработкой для платформы AVR, и у меня есть вопрос. Я не хочу, чтобы библиотека с...
Я пытаюсь передать массив, содержащий координаты X, Y и Z (тип float), функции glTranslatef (), но...
Я разрабатываю приложение на C, которое нуждается в детерминизме с плавающей точкой.Я также хотел...
Я испытываю противоречивое поведение на разных машинах с преобразованием в общеизвестный текст...
Это действительно странная ошибка для меня, и мне потребовалось много времени, чтобы понять, что...
Я работаю над Objective C и пытаюсь вывести правильный индекс массива из двух измерений. Для этого...
Я пытаюсь реализовать алгоритм деления Ньютона-Рафсона Запись в Википедии , чтобы реализовать...
Я тщетно пытался несколько дней найти точность математических функций (в math.h) компилятора GNU...
Я сейчас пытаюсь получить среднее значение в виде числа с плавающей запятой, округленное до...
Мне нужно преобразовать экспоненциальные строки, такие как 6.5235375356299998e-07, в значение с...
Я пишу метод расширения для сравнения двух чисел с использованием заданного количества десятичных...
Есть небольшая проблема с десятичным форматом данных. Итак, код выглядит так: #define SHOW_MONEY...
У меня есть Double , который я создал так: Double d = Double.parseDouble( "27.86753" );...
У меня есть массив с фиксированным размером парных чисел, закодированных в формате IEEE754,...
Эта проблема лучше всего выражается в коде: $var1 = 286.46; // user input data $var2 = 3646; //...
Я пытаюсь взять изображение из Интернета и заставить его заполнить всю ширину экрана. Это, кажется,...