Я хотел бы построить математические функции, и я ищу методы и алгоритмы для точного и эффективного...

У меня есть переменная TDateTime, которой присваивается значение во время выполнения 40510.416667

Это, кажется, уже задавали: десятичная точность рельсов и масштаб Но при запуске миграции...

Я просто размышляю о том, возможно ли создать собственный тип данных? Поэтому, если вам нужна...

У меня проблема с потерей точности Моя задача - напечатать числа в виде строк int exponent = ......

Я читал о разнице между двойной точностью и одинарной точностью. Однако в большинстве случаев float...

Когда я вызываю get_d () для переменной MPQ в библиотеке GMP, я получаю не более шести цифр. C ++...

У меня есть следующий столбец, указанный в базе данных: десятичный (5,2) Как можно это...

Есть ли разница в точности между однократным назначением: res=n/k и многократное назначение в...

Я хочу округлить число с плавающей запятой, чтобы установить точность и вернуть результат из...

Я хотел бы изменить точность двойного представления в строке, которую я форматирую, на основе...

В R есть опция для управления отображением цифр.Например: options(digits=10) должен давать...

Я делаю игру с Python-> PyGame-> Albow и столкнулся с проблемой генерации доски.Однако я попытаюсь...

Я столкнулся с досадной проблемой при выводе числа с плавающей запятой. Когда я форматирую 11.545 с...

Это даже неточно? Я заново реализовал все это с произвольной точностью Apfloat, и не имело никакого...

Интересно, есть ли что-то вроде eps для представления значения точности машины в C ++? Могу ли я...

Я занимаюсь разработкой математического синтаксического анализатора, который может оценивать строку...

Я пишу программу на C #, которая должна рассчитывать очень маленькие числа. Однако все мои...

Я работаю с C # и SQL 2005. Я сохранил переменную float со значением 0.2 в столбце таблицы типа...

Я пытаюсь использовать модуль bignum в Perl и хочу установить точность. Я знаю, что это можно...

Мне интересно, правда ли это: когда я беру квадратный корень из целого числа в квадрате, как в f =...

SQL Sever 2000 документация : Является ли число с плавающей запятой данными с следующие допустимые...

Я столкнулся со странным поведением в Perl. Следующее вычитание должно привести к нулю как...

У меня есть приложение Spring, работающее с базой данных MySql. У меня есть таблица продаж, как:...

Сохраняет ли тип данных SQL Server decimal фактическое количество цифр после десятичного числа для...