Форматирование десятичных чисел - PullRequest
Новая
       8

Форматирование десятичных чисел

0 голосов
/ 19 февраля 2011

Я использую VB.NET 2010 Premium и SQL Server 2008 Express.

У меня есть целое число 1562, которое я умножаю на 0,1.

В моей базе данных SQL у меня есть поле с именем Y_751_207 в виде десятичного числа (18,0). В моей программе есть текстовое поле с именем txtY_751_207. 

objDataRow.item("Y_751_207") = CType(txtY_751_207.text, Double) * 0.1

Когда я прошел по коду, я убедился, что мой результат в порядке. 156.2, но когда я отображаю свои ответы в ListView, он отображается как 156. Мне нужно, чтобы он отображался как 156.2.

Simulary

У меня есть целое число, 39993824, которое я умножаю на 10 ^ -6.

В моей базе данных SQL у меня есть поле с именем Y_751_594 в виде десятичного числа (18,0). В моей программе есть текстовое поле с именем txtY_751_594. 

objDataRow.item("Y_751_594") = CType(txtY_751_594.text, Double) * 10 ^ -6.

Когда я прошел код, я убедился, что мой результат в порядке. 39.993824, но когда я отображаю свои ответы в ListView, он отображается как 40. Мне нужно, чтобы он отображался как 39.993824.

На бумаге я подтвердил, что мои результаты верны. Я пытался понять это правильно, но мне не повезло.

1 Ответ

2 голосов
/ 19 февраля 2011

Проблема заключается в типе данных ваших столбцов: Десятичное число (18,0)

Значение 18 означает «Сколько всего цифр».

Значение 0 означает «Сколько цифр»справа от десятичной точки "

Поскольку ваша шкала равна 0, ваши значения будут округлены до ближайшего целого числа.Вам следует определиться с точностью и масштабом, которые вам нужны для ваших столбцов, и установить их соответствующим образом.

...