Вопросы с тегом значащая цифра - PullRequest

Вопросы с тегом значащая цифра

0 голосов
0 ответов

В питоне у меня есть номер: U = 0.02462631224438585 +- 3.350971888120506e-06. Как мне округлить его...

hi hi / 06 апреля 2019
0 голосов
1 ответ

У меня есть столбец с чрезвычайно большим набором значений (> 21 КБ), с неопределенным количеством...

Paniom / 15 февраля 2019
0 голосов
1 ответ

Я ищу формулу Excel, чтобы получить количество значащих цифр из десятичного числа или целого числа...

cekar / 11 февраля 2019
0 голосов
0 ответов

Я ищу простой способ округлить числа до первой значащей цифры, за исключением того, что я хочу...

Gordon Köhn / 18 декабря 2018
0 голосов
0 ответов

Я пытаюсь отформатировать свой код таким образом, чтобы выбранное количество значащих цифр...

Netta Gal / 19 ноября 2018
0 голосов
1 ответ

Я использую BigDecimal для деления.Я хотел бы, чтобы частное было округлено до правильного числа...

Oliver Reimer / 20 сентября 2018
6 голосов
3 ответов

Я хотел бы сделать так, чтобы один из моих UILabels отображал максимум 3 цифры. Итак, если...

benwad / 23 марта 2012
5 голосов
3 ответов

Я хочу извлечь n старших значащих бит из целого числа в C ++ и преобразовать эти n битов в целое...

linello / 15 марта 2012
2 голосов
4 ответов

Есть ли в Python способ подсчитать значащие цифры в двойном / float / и т. Д.?Я не вижу простого...

user456584 / 12 ноября 2011
0 голосов
1 ответ

В python3 есть хороший способ установить значимые цифры - например, если у меня есть список: l = [2

Ross W / 26 октября 2011
4 голосов
1 ответ

В Xcode / Objective-C для iPhone. У меня есть число с плавающей запятой со значением 0.00004876544....

Tom Kelly / 19 июля 2011
1 голос
1 ответ

Я пишу программу, которая должна округлять очень большие и точные числа (возможно, намного больше...

donnyton / 27 июня 2011
1 голос
2 ответов

У меня есть переменная, которую я хочу вернуть максимум 5 слева от десятичной дроби и всегда 3...

Mike / 29 апреля 2011
5 голосов
8 ответов

Есть ли какой-нибудь плавный способ округления до ближайшей значащей цифры в php? Итак: 0->0...

Kzqai / 29 апреля 2011
7 голосов
6 ответов

Как я могу сделать математику с участием значащих цифр в C ++?Я хочу, чтобы это работало корректно...

joshim5 / 05 января 2011
6 голосов
4 ответов

При использовании double.Parse, кажется, нравится вычеркивать любые завершающие (незначительные)...

TGP1994 / 11 декабря 2010
9 голосов
8 ответов

Скажите, у меня есть любое из следующих чисел: 230957 или 83487 или 4785 Как в Ruby я могу вернуть...

John / 04 августа 2010
12 голосов
4 ответов

Я хочу представить число с плавающей запятой в виде строки, округленной до некоторого числа...

dln385 / 18 апреля 2010
0 голосов
2 ответов

8 | * 7 | * 6 | * 5 | * 4 | * * 3 |* * * * * * 2 |* * * * *** ** * * 1 |* * *** ****** **** * *...

user133466 / 23 декабря 2009
20 голосов
4 ответов

Я хотел бы иметь возможность округлять число до n значащих цифр в SQL. Итак: 123.456 rounded to 2sf...

Paul / 17 декабря 2009
59 голосов
12 ответов

Если у меня есть двойное число (234.004223) и т. Д., Я бы хотел округлить его до x значащих цифр в...

Rocco / 17 декабря 2008
31 голосов
8 ответов

У меня есть некоторые десятичные данные, которые я помещаю в список SharePoint, где они должны быть...

Chris Farmer / 01 октября 2008
Для получения более полной информации посмотрите в списке вопросов или в популярных тегах.
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...