Вследующих принято: «точное» значение числа = 3, 14159; ускорение свободного падения вблизи поверхности земли g = 9,81 м/с2; постоянная авогадро na = 6,02 × 1023 моль-1. вычислите абсолютную и относительную погрешность: а) = 3, 141 g = 10 м/с2 б) = 3, 1416 g = 9,8 м/с2
π = 3,14
3,1459 - 3,14 = 0,0059 - абсолютная погрешность
3,1459 : 3,14 ≈ 1,00187. - относительная - 0,2%
g = 10
Абсолютная погрешность
10 - 9,81 = 0,19 м/с²
Относительная 10 : 9,81 ≈ 1,0194 или 2%
б)
π = 3,1416
3,1416 - 3,1459 = 0,0043 - абсолютная
3,1416 : 3,1459 = 0,998 - относительная 0,002 = 0,2%
g = 9.81 - 9.8 = 0.01 м/с² - абсолютная
9,8 : 9,81 = 0,999 - относительная 0,001 = 0,1%