Почему 10 ^ -8 отличается от 0,1 ^ 8? - PullRequest
0 голосов
/ 14 мая 2019

В vb.net

На самом деле я снимаю окно с часами

enter imagecorrection here

10 ^ -8 правильно 1e-8

И все же есть что-то с .1 ^ 8 или даже .1 ^ 2

Почему?

Для эксперимента я пробовал с .1 * .1 и 1/100 и 1 / (10 ^ 8). Некоторые дают правильные результаты, а некоторые нет. Интересно, почему.

Я предполагаю, что 10 ^ -1, что математически эквивалентно .1 может быть закодировано точно . Они хранятся иначе, чем .1. Я точно не знаю как. Я думаю, что у них одна и та же богомол, а у них просто -1 в качестве показателя степени.

Обратите внимание, что 10 ^ -120 выглядит как точное

enter image description here

Проблемы начинаются только после 10 ^ -309

10 ^ -308 все еще точно.

Интересно, как они это представляют? в ieee754

...