Десятичный тип данных в Visual Basic 6.0 - PullRequest
10 голосов
/ 22 июля 2009

Мне нужно делать вычисления (деление или умножение) с очень большими числами. В настоящее время я использую Double и получаю значение округления проблем. Я могу точно так же делать вычисления на C #, используя тип Decimal Я ищу метод для точных вычислений в VB6.0 и не могу найти тип Десятичный в VB6.0.

Какой тип данных используется для выполнения арифметических вычислений с большими значениями и без проблем округления с плавающей запятой?

1 Ответ

19 голосов
/ 22 июля 2009

В зависимости от типа данных вы всегда можете использовать валюту, которая имеет вид десятичной дроби (19,4) или 15 цифр слева от десятичной точки и 4 справа.

В VB6 попробуйте использовать вариант типа данных и привести ваши числа к этому с помощью CDec, как в:

Dim myDec As Variant
myDec = CDec(1.234)

Посмотрите, работает ли это.

...