Вопросы с тегом плавающая точность - PullRequest

Вопросы с тегом плавающая точность

3 голосов
5 ответов

скажем, у меня есть следующий список: my_list = [3.5, 1.6, 2.4, 8.9, 5.6] Я хочу найти 3 самых...

Chujun Song / 24 сентября 2019
1 голос
1 ответ

Доброго всем, У меня 460 000 строк DataFrame с 15 столбцами. Я пытаюсь присвоить одному столбцу...

alex_T / 11 июня 2019
0 голосов
0 ответов

Цель состоит в том, чтобы получить точность для каждой модели, чтобы показать, что точность...

David F / 23 марта 2019
0 голосов
0 ответов
0 голосов
2 ответов

У меня есть калькулятор, который я создаю, где пользователь может конвертировать объединенные назад...

Best Dev Tutorials / 06 октября 2018
0 голосов
0 ответов

Следующий код на C был скомпилирован сегодня на двух системах с помощью компилятора Microsoft...

GuyGizmo / 16 сентября 2018
0 голосов
2 ответов

Я конвертирую растр в точки, чтобы сделать некоторые расчеты. Растровые точки имеют точность 0,5, и...

César Arquero / 05 сентября 2018
0 голосов
1 ответ

Я всегда слышал, что вы должны использовать денежный класс из-за неточностей с плавающей запятой

Martin Thoma / 12 июня 2018
4 голосов
3 ответов

Изменилась ли встроенная функция round () в Python между 2,4 и 2,7? Python 2.4: Python 2.4.6 (#1,...

Paul Johnson / 21 декабря 2011
1 голос
3 ответов

Итак, я создаю приложение для отслеживания времени с использованием Ruby On Rails и сохраняю время...

loosecannon / 14 июня 2011
0 голосов
3 ответов

Я хочу внедрить функцию записи игрового процесса в проект, которая будет записывать только вход...

Maurycy / 31 января 2011
2 голосов
5 ответов

Я должен использовать C и Fortran вместе, чтобы сделать некоторые симуляции.В их курсе я использую...

Nils_M / 24 января 2011
1 голос
3 ответов

В PHP я знаю, что мы не должны делать math на плавающих объектах без таких вещей, как bcmath, но...

Andrew / 10 января 2011
4 голосов
2 ответов

Я работаю над переносом функции sqrt (для 64-битных двойных кодов) с fdlibm на инструмент проверки...

sascha / 30 ноября 2010
7 голосов
6 ответов

Я заметил, что когда я сохраняю двойное значение, такое как, например, x = 0.56657011973046234, в...

fostandy / 17 ноября 2010
6 голосов
9 ответов

Я написал программу для вычисления n-го корня числа до 2 десятичных знаков. например, 4-й корень из...

narayanpatra / 16 августа 2010
5 голосов
4 ответов

Я не использую Tcl в своей повседневной работе. Однако у меня есть коллега, который иногда...

Don Wakefield / 18 февраля 2010
10 голосов
5 ответов

Я пытаюсь написать функцию на языке программирования D, чтобы заменить вызовы strtold....

dsimcha / 01 февраля 2010
3 голосов
5 ответов

Я конвертирую двойные значения в строку следующим образом: std::string conv(double x) { char...

martinus / 19 декабря 2009
22 голосов
10 ответов

Кто-нибудь знает наиболее эффективное представление для координат широта / долгота? Уровень...

Justicle / 03 августа 2009
21 голосов
9 ответов

В моем курсе мне говорят: Непрерывные значения представлены приблизительно в памяти, и,...

Humphrey Bogart / 06 июня 2009
7 голосов
8 ответов

Оптимизируя игру, которую мы разрабатываем, мы вступаем в фазу, когда каждый выигранный цикл ЦП...

Kriem / 20 мая 2009
5 голосов
3 ответов

Отладка некоторого кода SQL, связанного с финансами, обнаружила странную проблему с математической...

Ilya Komakhin / 24 сентября 2008
Для получения более полной информации посмотрите в списке вопросов или в популярных тегах.
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...