Я читаю книгу Дэвида Голдберга «Что каждый ученый должен знать о числах с плавающей запятой» и натолкнулся на раздел, посвященный ULP. Он приводит пример:
Фактический результат: 0.0314 = 3.14 x 10 -2
Ближайший номер FP: 3.12 x 10 -2
Итак, ULP = (3,14 - 3,12) х 10 2 = 2
Однако, Я не могу понять, что это на самом деле означает, и мне нужна помощь. Что здесь означает «единицы»?