水质监测中数据处理——有效数字

  水质监测中记录和整理分析结果时,为避免报告结果混乱,要确定采用几位“有效数字”。报告的各位数字,除末位外,均为准确测出,仅末位是可疑数字。可疑数字以后是无意义数。报告结果时只能报告到可疑的位数,不能列入无意义数。报告的位数,只能在方法的灵敏限度以内,不应任意增加位数。例如75.6mg/L,表示化验人员对75是肯定的,0.6是不确定的,可能是0.5或0.7。

  下面是几组数据的有效数字位数:

  试样质量(分析天平称量)1.0008g,10531                                                                                                                                         5位

  试样质量(分析天平称量)0.6180g,溶液的体积(用滴定管量取)12.36mL,10.98%                                                                             4位

  溶液的浓度0.0382mol/L,试样质量(用托盘天平称量)11.8g,4.20*10-4                                                                                            3位

  天平的零点0.0056g,溶液的体积(用量筒量取)15mL,pH=11.50,Ph=7.00,4.20*10-4,0.40%                                                        2位

  溶液的浓度0.05mol/L,0.2%,2*105                                                                                                                                                1位

  3600,100                                                                                                                                                                                          有效数字位数不确定

  有效数字中“0”有双重意义,即“0”可以是有效数字,也可以不是有效数字,仅仅不是位数。如104,40.08,1.2010,所有的“0”均为有效数字;而0.6050g,小数点前面的“0”则不是有效数字,只起定位作用。

  有效数位数不确定的数字,如4200mg的位数就含糊。而写成4.2*10³mg(2位),4.20*10³mg(3位),4.200*10³mg(4位),有效数字的位数就明确了。

  分析计算中还常遇到pH,pKa,log等对数值有效数字的位数取决于小数部分数字位数。如pH=11.20,则[H+]=6.3*10-12mol/L,有效数字位数是2位。

Scroll to Top