Вопросы с тегом с плавающей точкой - PullRequest

Вопросы с тегом с плавающей точкой

50 голосов
6 ответов

Общий вопрос новичка, но это сводит меня с ума! Я пытаюсь это: myInt = [myFloat integerValue]; но я...

Nick Locking / 13 ноября 2008
0 голосов
3 ответов

У меня есть следующее уравнение 1 - ((.5 * 0,83333333333333) ^ 2 + (.5 * 0,83333333333333) ^ 2 + (

Miguel A. Friginal / 12 ноября 2008
2 голосов
3 ответов

Я использую Java и ссылаюсь на "двойной" тип данных. Короче говоря, я читаю некоторые значения из...

cupu / 06 ноября 2008
15 голосов
11 ответов

Может ли каждое возможное значение переменной float быть точно представлено в переменной double?...

Kip / 03 ноября 2008
2 голосов
5 ответов

Я ищу предложения о том, как найти размеры (в битах) и диапазон чисел с плавающей запятой...

Miguel A. Friginal / 02 ноября 2008
4 голосов
3 ответов

Я работаю над устаревшим приложением ASP. Я пытаюсь вставить значение (40.33) в поле в SQL Server...

pfunk / 29 октября 2008
7 голосов
4 ответов

Посмотрев другой вопрос о SO ( Использование NaN в C ++ ), мне стало любопытно узнать...

Jeffrey Martinez / 25 октября 2008
5 голосов
2 ответов

Я планирую сделать следующий проект на c #, а не на c ++ (используя SlimDX). Весь DirectX...

Fire Lancer / 13 октября 2008
1 голос
2 ответов

Когда я даю Java и C большие значения типа float и double (в миллиардном диапазоне), они...

chustar / 11 октября 2008
1 голос
3 ответов

В приведенном ниже коде я использую mpf_add, чтобы добавить строковое представление двух плавающих...

bugmagnet / 07 октября 2008
167 голосов
12 ответов

Как можно округлить десятичное число (с плавающей запятой) до ближайшего целого числа? , например 1

Ranguard / 07 октября 2008
46 голосов
14 ответов
12 голосов
5 ответов

Когда я добавляю два значения текстового поля 1.001 и 0.001 , а затем я получаю parseFloat, я...

Miguel A. Friginal / 06 октября 2008
4 голосов
3 ответов

Чтобы создать произвольную точность с плавающей запятой / заменой для Double, я пытаюсь обернуть...

Jared Updike / 06 октября 2008
22 голосов
7 ответов

Для интенсивного вычисления числа я рассматриваю использование фиксированной точки вместо плавающей...

DarenW / 05 октября 2008
1 голос
8 ответов

Я не могу точно понять, что делает оператор IF, из того, что я вижу, он проверяет, равна ли...

Miguel A. Friginal / 03 октября 2008
46 голосов
7 ответов

У меня есть double значение f, и я хотел бы получить способ немного увеличить его (или уменьшить),...

Owen / 01 октября 2008
37 голосов
10 ответов

Каков наилучший способ анализа поплавка в CSharp? Я знаю о TryParse, но меня особенно интересуют...

Boris Callens / 29 сентября 2008
17 голосов
12 ответов

Этот код работает (C # 3) double d; if(d == (double)(int)d) ...; Есть ли лучший способ сделать это?...

BCS / 27 сентября 2008
7 голосов
9 ответов

Мое приложение генерирует различные значения с плавающей запятой, когда я компилирую его в режиме...

KPexEA / 27 сентября 2008
5 голосов
3 ответов

Отладка некоторого кода SQL, связанного с финансами, обнаружила странную проблему с математической...

Ilya Komakhin / 24 сентября 2008
19 голосов
6 ответов

Я ищу чрезвычайно быструю реализацию atof () на IA32, оптимизированную для американской локали,...

Dave Moore / 19 сентября 2008
12 голосов
5 ответов

Отличаются ли операции с плавающей запятой в C # / .NET точностью между режимом отладки и режимом...

MichaelT / 18 сентября 2008
7 голосов
5 ответов

Возможно ли преобразовать исключения (сигналы) с плавающей запятой в исключения C ++ в x86 Linux?...

Geoffrey Irving / 17 сентября 2008
22 голосов
10 ответов

Какой самый быстрый из известных вам способов преобразования чисел с плавающей запятой в тип int на...

robottobor / 17 сентября 2008
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...