Консультация № 191487
16.10.2017, 13:54
0.00 руб.
0 1 1
Здравствуйте! Прошу помощи в следующем вопросе:
Определить количество верных значащих цифр в числе x* и округлить его до верных цифр, если известна относительная погрешность x*:
x*=197,3587; Δx*=7 %

Обсуждение

давно
Мастер-Эксперт
17387
18345
17.10.2017, 18:38
общий
это ответ
Здравствуйте, dimabylk!

По формуле в замечании [1, с. 28] абсолютная погрешность при и составляет

Значит, в числе верной является лишь цифра сотен. Поэтому Поскольку постольку, согласно [1, с. 25] можно записать с одной сомнительной цифрой:

Литература
1. Демидович Б. П., Марон И. А. Основы вычислительной математики. - М.: Наука, 1966. - 664 с.
5
Об авторе:
Facta loquuntur.
Форма ответа