Вопросы с тегом произвольной точности - PullRequest

Вопросы с тегом произвольной точности

2 голосов
1 ответ

Я попытался проверить забавный расчет x = -80538738812075974 y = 80435758145817515 z =...

Michael Hecht / 19 сентября 2019
0 голосов
0 ответов

Я хочу использовать функцию mpmath, чтобы сделать некоторые вычисления с gmpy2.Однако функции...

nocitome / 26 июня 2019
1 голос
1 ответ

Существуют ли два целых числа i и j, которые оба соответствуют двойному стандарту IEEE 754 (меньше...

zale / 18 июня 2019
0 голосов
0 ответов

Я пытаюсь реализовать свой собственный класс LargeInteger в javascript (и позже перенесет на Java и...

user417185 / 16 мая 2019
5 голосов
2 ответов

Мне нужно иметь возможность сделать транзакцию в Redis, которая выполняет следующие действия:...

Quadear / 26 апреля 2019
0 голосов
3 ответов

Я хочу использовать этот вопрос, чтобы немного улучшить мое общее представление о том, как работает...

Run like hell / 17 апреля 2019
1 голос
0 ответов

У меня та же проблема, что и здесь https://comp.soft -sys.matlab.narkive.com / HV95Az6b / как...

Bob / 08 апреля 2019
1 голос
1 ответ

У меня есть приложение, которое должно хранить значения криптовалюты в базе данных PostgreSQL....

The Quantum Physicist / 22 марта 2019
0 голосов
0 ответов

Я столкнулся с большой проблемой при вычислении cumsum() вектора.Вектор имеет длину ~ 10000...

contefranz / 20 марта 2019
0 голосов
1 ответ

Я пытаюсь использовать библиотеку CAMPARY (CudA Multiple Precision ARithmetic librarY). Я скачал...

David Wohlferd / 15 марта 2019
0 голосов
3 ответов

Мне нужно сгенерировать бесконечный список Haskell, содержащий все биты (или слова) из дробной...

Mick Francis / 18 февраля 2019
0 голосов
1 ответ
0 голосов
1 ответ
0 голосов
1 ответ

Это дополнительный вопрос к предыдущему , который я задал. Я пытаюсь вычислить ряд Harmonic для...

Adrian / 02 ноября 2018
0 голосов
3 ответов

Итак, я пытаюсь написать код для вычитания двух двоичных чисел, но я не уверен, как элегантно...

chilliefiber / 24 октября 2018
0 голосов
2 ответов

В REPL Julia 1.0.0 я получаю следующие результаты: # Line 1: This make sense. I did not expect a...

Julia Learner / 09 сентября 2018
0 голосов
1 ответ

В REPL Julia 1.0.0 я получаю следующее поведение.Первая строка - это пример из документации...

Julia Learner / 09 сентября 2018
0 голосов
1 ответ

Я пытаюсь вычислить некоторые простые вероятности в Sympy, но продолжаю получать числовые ошибки

linhares / 28 мая 2018
1 голос
1 ответ

После статей и исходного кода для двойной арифметики в течение некоторого времени я до сих пор не...

rych / 25 марта 2012
6 голосов
1 ответ

Надеюсь, только быстрый вопрос.У меня есть столбец DECIMAL в моей базе данных.Значение представляет...

Bendos / 06 февраля 2012
2 голосов
1 ответ

просто ищет некоторую реализацию произвольных больших целых чисел с некоторой базовой арифметикой...

David Unric / 09 января 2012
8 голосов
6 ответов

Я использую API mpmath для вычисления следующей суммы Рассмотрим серию u0, u1, u2, определенную...

aspire99 / 02 января 2012
2 голосов
5 ответов

Известно, что значения примитивов с плавающей точкой Java не должны использоваться, когда требуется...

Mister Smith / 14 декабря 2011
2 голосов
2 ответов

Мы вносим некоторые изменения в устаревший проект с использованием J2ME. До сих пор десятичные...

Mister Smith / 02 декабря 2011
3 голосов
2 ответов

Я должен найти журнал очень большого числа. Я делаю это в C ++ Я уже сделал функцию умножения,...

Kamil Hismatullin / 22 ноября 2011
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...