В чем разница между точностью и масштабом? - PullRequest
123 голосов
/ 17 апреля 2011

В чем разница между точностью и масштабированием в Oracle?В учебных руководствах они обычно оставляют масштаб пустым и устанавливают точность равную 6. При создании первичного ключа.

Что означают точность и масштаб?

Ответы [ 7 ]

181 голосов
/ 25 октября 2012

Точность 4, шкала 2: 99,99

Точность 10, шкала 0: 9999999999

Точность 8, шкала 3: 99999,999

Точность 5, шкала -3: 99999000

55 голосов
/ 17 апреля 2011

Точность - это число значащих цифр.Oracle гарантирует переносимость чисел с точностью от 1 до 38.

Масштаб - это число цифр справа (положительно) или слева (отрицательно) от десятичной точки.Шкала может варьироваться от -84 до 127.

В вашем случае идентификатор с точностью до 6 означает, что он не примет число с 7 или более значащими цифрами.

Ссылка:

http://download.oracle.com/docs/cd/B28359_01/server.111/b28318/datatype.htm#CNCPT1832

На этой странице также есть несколько примеров, которые помогут вам понять точность и масштаб.

51 голосов
/ 11 июня 2013

Точность - общее количество цифр. Масштаб - количество цифр после десятичной точки.

Пример:
НОМЕР (7,5): 12.12345
НОМЕР (5,0): 12345

29 голосов
/ 05 июля 2016

Может быть, более ясно:

Обратите внимание, что точность - это общее количество цифр, включая масштаб

NUMBER (точность, масштаб)

Точность 8, шкала 3: 87654,321

Точность 5, шкала 3: 54,321

Точность 5, шкала 1: 5432,1

Точность 5, шкала 0: 54321

Точность 5, масштаб -1: 54320

Точность 5, шкала -3: 54000

7 голосов
/ 09 января 2019

Масштаб - это количество цифр после десятичной точки (или двоеточия в зависимости от вашей локали)

Точность - это общее количество значащих цифр

scale VS precision

1 голос
/ 17 декабря 2018

точность: это общее количество цифр до или после точки радиуса.Пример: 123.456, здесь точность равна 6.

Масштаб: это общее количество цифр после радикальной точки.Пример: 123.456 здесь Scaleis 3

0 голосов
/ 15 мая 2013

Если значение равно 9999,988, а точность 4 - шкала 2, то это означает 9999 (она представляет точность) .99 (шкала равна 2, поэтому 0,988 округляется до 0,99)

Если значение равно 9999,9887, а точность равна4, шкала 2, значит 9999,99

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...