VB6 - проблема усечения CDbl

Question

У меня проблемы с приведением к Double из строки в VB6.

dblValue = CDbl(strValue)

Когда strValue = 88888888888888888, dblValue = 8.88888888888889E + 16, который усекает число во время чтения.Кто-нибудь знает как-нибудь обойти это?

Заранее спасибо!

Answer 1

Вы можете изменить свой код, чтобы использовать Decimal вместо Double. Этот тип данных обладает необходимой точностью для хранения значения.

К сожалению, VB6 не поддерживает создание переменных типа Decimal напрямую, но вы можете сохранить данные как Variant подтипа Decimal, например,

Dim decValue As Variant
decValue = CDec(strValue)

Вы можете манипулировать этими данными точно так же, как и любым другим числовым типом данных, у вас просто не будет строгой безопасности типов для переменных.

Answer 2

Нет никакого способа обойти это, потому что двойной является точным только до 15 значащих цифр, а 88888888888888888 имеет 17 цифр.Точность будет потеряна, если вы преобразуете число в Double.

Вы должны использовать десятичный тип на CDec, если вам нужно точно сохранить все цифры.