水质监测中有效数字的近似计算规则

  (1)加减法 当几个数相加或相减时,它们的和或差的有效字位数(或小数点后数字的保留位数),应以各数中小数点后位数最少者为准,例如:2.03+1.1+1.034,小数点位数最少的是1.1,所以2.03+1.1+1.034=4.2。

  (2)乘除法 当几个数值相乘除时,应以有效数字位数字位数最少的那个数值,即相对误差最大的数据为准,弃去其余各数值中的过多位数,然后进行乘、除。有时也可以暂时多保留一位数,得到最后结果后,再弃去多余的数字。例如将0.0121,25.64,1.05782三位数值相乘,因第一数值0.0121仅三位有限数字,故应以此数为准,确定其余两个数值的位数,然后相乘,即0.0121*25.6*1.06=0.328。

  当进行乘方或开方时,原近似值有几位有效数字,计算结果就可以保留几位有效数字,如6.54²=42.7716其结果保留三位有效数字则为42.8;如√7.39≌2.71845544···其结果保留三位有效数字则为2.72。

Scroll to Top