Как операционные системы TI закодированы, чтобы не иметь ошибки с плавающей запятой? - PullRequest
Новая
       89

Как операционные системы TI закодированы, чтобы не иметь ошибки с плавающей запятой?

2 голосов
/ 29 февраля 2012

Я запустил тест на своем графическом калькуляторе, чтобы проверить наличие ошибок с плавающей запятой, и после сорока восьми часов полной и полной случайности калькулятор не потерял ни одной цифры точности.

Как TI тянетэто выключено?

1 Ответ

4 голосов
/ 29 февраля 2012

TI-89 и TI-92 позволяют избежать ошибок, используя символьные вычисления для хранения значений точно .

Фактические вычисления с плавающей запятой (режим "приблизительно" на 89/92) do с ошибками. Их просто сложнее заметить, потому что калькуляторы TI отображают меньше цифр, чем они хранят. Кроме того, они используют десятичный вместо двоичного.

Например, если вы введете выражение 1/3*3-1 на TI-89 в режиме «приблизительно», вы получите ответ ⁻1.ᴇ⁻14 вместо 0, который вы получите в точном режиме. Внутри расчет производится следующим образом:

  • 1/3 дает 0.33333333333333, округленное до 14 значащих цифр.
  • Умножение на 3 дает 0.99999999999999. Из-за округления это отображается как 1.
  • Вычитание 1 дает -0.00000000000001, или -1e-14.
...