Вопросы с тегом с плавающей точностью - PullRequest

Вопросы с тегом с плавающей точностью

0 голосов
1 ответ

Я создал код, который выполняет приближение метода Ньютона.Он печатает в табличном формате...

PattyWatty27 / 19 сентября 2019
1 голос
2 ответов

В C 0.55 == 0.55f ложно, в то время как 0.5 == 0.5f верно.Чем он отличается? Сравнение 0.55:...

Artho Cruz / 10 июля 2019
1 голос
2 ответов

Мой код довольно прост, и только 1 строка вызывает проблему: np.tan(np.radians(rotation)) Вместо...

Warp Drive Enterprises / 01 июля 2019
3 голосов
1 ответ

Я выбрал два случайных double числа: double a = 7918.52; double b = 5000.00; Я ожидал бы получить...

Zoka / 16 июня 2019
4 голосов
4 ответов

Я пытаюсь сделать целочисленное деление + по модулю, используя удвоения (для сплайн-интерполяции),...

AI0867 / 13 июня 2019
1 голос
1 ответ

Я пытаюсь вычислить поточечные значения функции sinh(k-k*x)/sinh(k), где k=1e4 и x принимают...

user1799323 / 09 июня 2019
0 голосов
0 ответов

Как включить проверку допуска в следующую строку этого запроса linq? where thicknesses.Contains( mt

joe blogs / 28 мая 2019
1 голос
1 ответ
1 голос
1 ответ

Из всего, что я смог найти в Интернете, JavaScript якобы использует двойные значения IEEE 754 для...

Oscar Smith / 17 мая 2019
7 голосов
1 ответ

Я пытаюсь написать функцию для обработки движения в игре, которую я программирую.То, что у меня...

ARutherford / 10 мая 2019
0 голосов
2 ответов

Я написал код для вычисления суммы ряда 2 ^ (- k), но не знаю, как повысить точность этого...

physicist / 21 апреля 2019
0 голосов
0 ответов

Я выполняю простую операцию суммирования чисел с плавающей запятой, используя функцию math.fsum() в...

mal / 05 апреля 2019
1 голос
3 ответов

Как правильно сложить или вычесть используя поплавки? Например, как выполнить: 2.4e-07 - 1e-8 ,...

Greg / 04 апреля 2019
2 голосов
1 ответ

В этом примере сумма столбцов для массива pr вычисляется двумя различными способами: (a) взять...

MaxPowers / 02 апреля 2019
1 голос
2 ответов

Привет, ребята. Я работаю над javascript файлом о астрономических расчетах , поэтому мне нужно...

Borja / 30 марта 2019
1 голос
2 ответов
0 голосов
1 ответ

Мой вопрос очень прост. Следующий код должен возвращать true для всех вопросов. Но вопрос 4 и выше...

Nebu / 24 марта 2019
1 голос
1 ответ

Почему в lua следующее вычисление Lua 5.3.3 Copyright (C) 1994-2016 Lua.org, PUC-Rio > print(6

worenga / 06 марта 2019
0 голосов
3 ответов

Вот банк тестов, которые я делаю, и узнаю, как FP basic ops (+, -, *, /) могут привести к ошибкам:...

markzzz / 21 февраля 2019
0 голосов
1 ответ
0 голосов
3 ответов

Я пишу модульный тест для математической функции, и я хотел бы иметь возможность "ходить" по всем...

scx / 09 февраля 2019
0 голосов
1 ответ

Я только что прочитал код .NET Core и попытался понять, как System.Convert.ToInt32 (с плавающей...

Michael Kargl / 29 января 2019
0 голосов
1 ответ

Допустим, я установил шаг 0,1 в своем приложении. Итак, какое бы значение fp я ни получал, мне...

markzzz / 18 января 2019
0 голосов
2 ответов

У меня есть n чисел с плавающей точкой, которые должны равняться 1, каждый из которых может...

PolyglotPiglet / 02 января 2019
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...