Делать поплавок без установки дополнительных драгоценных камней? - PullRequest
2 голосов
/ 20 апреля 2010

Допустим, у меня есть эти два числа:

a = 50.0
b = 1048576.0
c = a/b

печатая c, я получаю это:

4.76837158203125e-005

Деление с calc.exe дает мне результат 0.0000476837158203125. Есть ли способ достичь того же с Ruby без установки какого-либо дополнительного гема?

Ответы [ 2 ]

5 голосов
/ 20 апреля 2010
a = 50.0
b = 1048576.0
c = a/b
#=> 4.76837158203125e-005
sprintf("%.20f", c)
#> "0.00004768371582031250"
2 голосов
/ 20 апреля 2010

Вы можете форматировать число с плавающей запятой, используя форматирование строки в Ruby, например:

irb> "%.019f" % c
=> "0.0000476837158203125"
...