Сохранение и получение числовых значений из Sqlite3 - PullRequest
0 голосов
/ 26 декабря 2009

Как правильно сохранить числовые значения в SQLite3. Я использовал реальный тип для хранения числовых значений. Например: когда я храню 233333.00 в порядке. Но когда я храню 23333333.00, становится 23333300.00. Почему он сохраняется как 2.3333333E7 и извлекается как 2.33333e + 07. Есть ли способ преодолеть это?

Ответы [ 2 ]

2 голосов
/ 26 декабря 2009

Действительный тип, используемый SQLite, хранится как 8-байтовое число с плавающей запятой IEEE и не может точно хранить все значения. Если вы хотите точные значения, используйте любую строку целого числа.

0 голосов
/ 26 декабря 2009

Вы теряете точность, потому что переменная вашей программы имеет одинарную точность, а вам нужна двойная.

Плавающая точка на самом деле совершенно точна для целых значений, которые вписываются в мантиссу.

Вы получаете 24 бита для одиночных игр и 53 для двойных.

Это совсем не проблема sqlite.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...