Точность и масштаб числового типа в SQL Server Express 2008 R2 - PullRequest
0 голосов
/ 12 сентября 2011

Я объявил столбец как числовой (5,3) в SQL Server 2008 exp r2, и я предположил, что это позволит мне сохранить значения, такие как 12345.123, но когда я попытался ввести что-либо больше 100, это вызывает ошибку переполнения.это заставило меня поверить, что в числовом (5,3), 5 представляет общую длину числа, включая точность и масштаб.Имея это в виду, я изменил тип столбца на десятичный (9,3) и предположил, что это позволит мне вводить значения, такие как 123456.123, но это снова дает ошибку переполнения.Я не могу понять, как этот тип данных, его точность и масштаб интерпретируются сервером sql.
Обновление:
Странно то, что при вводе значения числовое (9,3) позволяет вводить толькозначения, такие как 1234.123, но при редактировании строки я могу ввести значение 123456.123.не знаю, что здесь происходит: (

1 Ответ

4 голосов
/ 12 сентября 2011

decimal(9,3) должно нормально работать для 123456.123, пожалуйста, перепроверьте!

Выполнение

declare @d decimal(9,3) = 123456.123 

не дает ошибок.Этот тип данных допускает 6 цифр слева от десятичной точки и 3 справа.

...