Вопросы с тегом с плавающей точкой - PullRequest

Вопросы с тегом с плавающей точкой

1460 голосов
5 ответов
2 голосов
4 ответов

Когда я определяю константы в C, которые не могут быть точно представлены в десятичной системе,...

orlp / 16 февраля 2012
1 голос
1 ответ

Я пытаюсь найти приближение минимаксного полинома для синуса и косинуса, используя алгоритм обмена...

Veridian / 16 февраля 2012
1 голос
1 ответ

Я перепроектировал свою базу данных SQL на основе Firebird.В рамках этого процесса я создал новую...

truthseeker / 15 февраля 2012
6 голосов
3 ответов

Я делаю калькулятор пропускной способности, в котором пользователь вводит данные и...

Parth / 14 февраля 2012
3 голосов
3 ответов

Я собираю (большой) массив с плавающей точкой, каждый с плавающей точкой занимает 4 байта. Есть ли...

cojocar / 14 февраля 2012
4 голосов
1 ответ

Я использую поплавки для указания координат текстуры в диапазоне 0-1.OpenGL любит вещи в этом...

mpen / 14 февраля 2012
6 голосов
3 ответов

Я пытаюсь реализовать функции косинуса и синуса с плавающей запятой (но у меня нет аппаратного...

Veridian / 13 февраля 2012
7 голосов
1 ответ

Я пытаюсь сохранить число Пи до примерно 200 знаков после запятой, Эрланг объединяет его до 15 цифр...

BAR / 12 февраля 2012
5 голосов
2 ответов

Я занимаюсь разработкой для платформы AVR, и у меня есть вопрос. Я не хочу, чтобы библиотека с...

Miguel A. Friginal / 12 февраля 2012
0 голосов
4 ответов

Я пытаюсь передать массив, содержащий координаты X, Y и Z (тип float), функции glTranslatef (), но...

MetaDark / 12 февраля 2012
6 голосов
1 ответ
0 голосов
2 ответов

Я испытываю противоречивое поведение на разных машинах с преобразованием в общеизвестный текст...

Johnny Kauffman / 10 февраля 2012
9 голосов
1 ответ

Это действительно странная ошибка для меня, и мне потребовалось много времени, чтобы понять, что...

AZ. / 10 февраля 2012
2 голосов
2 ответов

Я работаю над Objective C и пытаюсь вывести правильный индекс массива из двух измерений. Для этого...

NemeSys / 10 февраля 2012
2 голосов
1 ответ

Я пытаюсь реализовать алгоритм деления Ньютона-Рафсона Запись в Википедии , чтобы реализовать...

Veridian / 09 февраля 2012
6 голосов
3 ответов

Я тщетно пытался несколько дней найти точность математических функций (в math.h) компилятора GNU...

user1200373 / 09 февраля 2012
2 голосов
2 ответов

Я сейчас пытаюсь получить среднее значение в виде числа с плавающей запятой, округленное до...

Dacto / 09 февраля 2012
3 голосов
1 ответ

Мне нужно преобразовать экспоненциальные строки, такие как 6.5235375356299998e-07, в значение с...

StefanS / 08 февраля 2012
9 голосов
2 ответов

Я пишу метод расширения для сравнения двух чисел с использованием заданного количества десятичных...

Kim / 07 февраля 2012
0 голосов
2 ответов

Есть небольшая проблема с десятичным форматом данных. Итак, код выглядит так: #define SHOW_MONEY...

Miguel A. Friginal / 07 февраля 2012
1 голос
3 ответов

У меня есть Double , который я создал так: Double d = Double.parseDouble( "27.86753" );...

ubiquibacon / 07 февраля 2012
2 голосов
1 ответ

У меня есть массив с фиксированным размером парных чисел, закодированных в формате IEEE754,...

Yaroslav Bulatov / 07 февраля 2012
5 голосов
5 ответов

Эта проблема лучше всего выражается в коде: $var1 = 286.46; // user input data $var2 = 3646; //...

user1192140 / 06 февраля 2012
0 голосов
2 ответов

Я пытаюсь взять изображение из Интернета и заставить его заполнить всю ширину экрана. Это, кажется,...

Thomas B / 06 февраля 2012
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...