Решение. Найдем значения данных выражений с большим числом десятичных знаков

Найдем значения данных выражений с большим числом десятичных знаков. Для этого выполним следующие действия:

> > format long

> > a1=9/11

a1 =

0.81818181818182

> > a2=sqrt(18)

a2 =

4.24264068711928

Затем вычислим предельные абсолютные погрешности:

> > abs(a1-0.818)

ans =

1.818181818182829e-004

> > abs(a2-4.24)

ans =

0.00264068711928

Округлим их с избытком:

Вычислим предельные относительные погрешности:

> > 0.00019/0.818

ans =

2.322738386308069e-004

> > 0.0027/4.24

ans =

6.367924528301887e-004

Таким образом,

Так как , то равенство является более точным.

Пример 1.2.

Округлить сомнительные цифры числа, оставив верные знаки: .

Решение.

Пусть ; тогда . В данном числе верными являются три цифры, поэтому округляем его, сохраняя эти цифры:

Значит, и в округленном числе 2, 35 все три цифры верны.

Пример 1.3.

Найти предельную абсолютную и относительную погрешности числа 12, 384, если оно имеет только верные цифры.