В vb.net
На самом деле я снимаю окно с часами
10 ^ -8 правильно 1e-8
И все же есть что-то с .1 ^ 8 или даже .1 ^ 2
Почему?
Для эксперимента я пробовал с .1 * .1 и 1/100 и 1 / (10 ^ 8). Некоторые дают правильные результаты, а некоторые нет. Интересно, почему.
Я предполагаю, что 10 ^ -1, что математически эквивалентно .1 может быть закодировано точно . Они хранятся иначе, чем .1. Я точно не знаю как. Я думаю, что у них одна и та же богомол, а у них просто -1 в качестве показателя степени.
Обратите внимание, что 10 ^ -120 выглядит как точное
Проблемы начинаются только после 10 ^ -309
10 ^ -308 все еще точно.
Интересно, как они это представляют? в ieee754