Погрешность двоичной дроби

Точность представления чисел

Вопрос о точность может возникать только в отношении дробных чисел с фиксированной запятой и чисел с плавающей запятой. Точность представления числа в ограниченном формате оценивается абсолютной и относительной погрешностью.

Абсолютная погрешность: А=А-А^*, где А - точное значение

А^* - машинное представление

А - знаковая величина

Относительная погрешность:

, иногда

Каждая десятичная дробь представляется в виде бесконечной двоичной дроби, что в условиях ограниченного формата ее представление приводит к погрешности. Максимальная абсолютная погрешность бесконечной двоичной дроби имеет место в том случае, когда все отбрасываемые разряды равны единице.

правильная дробь:

(n-разрядная)

1 1 1 …

Максимальная абсолютная погрешность правильной дроби равна весу ее младшего разряда.

Погрешность представления чисел с плавающей запятой определяется погрешностью их мантиссы как дробного числа.

Точность представления чисел с плавающей запятой принято оценивать их максимальные относительные погрешности. Точность определяется в отношении нормализованных чисел.

Эта формула справедлива для мантисс, представленных правильной дробью, а так же неправильной.