Я написал класс рациональных чисел произвольной точности, который должен обеспечить способ...

Я пытаюсь суммировать это в php: .1, .1, .1, .1, .1, .1, .1, .1, .1, .1 Это должно дать мне...

Я должен получить косинус и грех PI и PI / 2 и угол 0. Все мои числа были правильными, за...

Итак, рассмотрим следующий расчет 5777100 - 5777090.001370444 Когда я набираю его в Google, я...

Private Declare Function ReadProcessMemory Lib "kernel32" (ByVal hProcess As Integer,...

Я пытаюсь отобразить число с плавающей точкой, но округляю его, так что f = 5.545 отображается как:...

Я пытаюсь получить более точный результат из этого кода: a = str(10**20+10**-20) b = eval(a) Я хочу...

Я хочу преобразовать некоторые значения в little-endian. У меня нет проблем с преобразованием int в...

Я писал программу для ввода различных целочисленных входных данных и нахождения минимума, максимума...

Я понимаю, почему 0.1 + 0.2 дает это в Python 3: >>> 0.1 + 0.2 0.30000000000000004 ... но...

Так что у меня проблемы с пониманием двоичного представления с плавающей запятой. У меня есть...

Можно ли записать в файл произвольный дубль в удобочитаемой для человека форме и получить точно ,...

Существует популярная проблема алгоритма, известная как Two Sum. Для тех, кто не знает об этом, вот...