监测结果的数据处理 1、有效数据规则 1)计量器具测量数据记录 以试验室常用的计量器具为例： (1)用天平（最小分度值为0.1mg)进行称量时，有效数字可以记到小数点后第四位， 如1.2235g,此时有效数字为五位；称取0.9452g,则为四位。 (2)用玻璃量器量取体积的有效数字位数是根据亮起的容量允许差和读数误差来确定的， 如单表线A级50mL容量瓶，准确容积为50.00mL;单标线A级10mL移液管，准确容积为 10.00L,有效数字均为四位；用分度移液管或滴定管，其读数的有效数字可达到最小 分度后一位，保留一位不确定数字。 (3)分光光度计最小分度值为0.005，因此吸光度一般可记到小数点后第三位，有效数 字位数最多只有三位。 返回目录上一页下一页尾页
返回目录 上一页 下一页 尾页 监测结果的数据处理 1）计量器具测量数据记录 以试验室常用的计量器具为例： （1）用天平（最小分度值为0.1mg）进行称量时，有效数字可以记到小数点后第四位， 如1.2235g，此时有效数字为五位；称取0.9452g，则为四位。 （2）用玻璃量器量取体积的有效数字位数是根据亮起的容量允许差和读数误差来确定的， 如单表线A级50mL容量瓶，准确容积为50.00mL；单标线A级10mL移液管，准确容积为 10.00mL，有效数字均为四位；用分度移液管或滴定管，其读数的有效数字可达到最小 分度后一位，保留一位不确定数字。 （3）分光光度计最小分度值为0.005，因此吸光度一般可记到小数点后第三位，有效数 字位数最多只有三位。 1、有效数据规则
监测结果的数据处理 1、有效数据规则 (4)带有计算机处理系统的分析仪器往往根据计算机自身的设定，打印或显示结果，可以有很 多位数，但这并不增加仪器的精度和可读的有效位数。 (5)在一些列操作中，适用多种计量仪器时，有效数字以最少的一种计量仪器的位数标志。 返回目录上一页下一页尾页
返回目录 上一页 下一页 尾页 监测结果的数据处理 （4）带有计算机处理系统的分析仪器往往根据计算机自身的设定，打印或显示结果，可以有很 多位数，但这并不增加仪器的精度和可读的有效位数。 （5）在一些列操作中，适用多种计量仪器时，有效数字以最少的一种计量仪器的位数标志。 1、有效数据规则
监测结果的数据处理 1、有效数据规则 2)分析结果的表示 1.分析结果的表示按照分析方法中的要求执行，例如《水质总氨的测定碱性过硫酸钾消解紫外分光 光度法》(H)636-2012)中规定了"当测定结果小于1.00mg/L时，保留到小数点后两位；大于 等于1.00mg/儿时，保留三位有效数字"。 (1)分析结果有效数字所能达到的小数点后位数，应与分析方法的检出限保持一致；分析结果的有 效数字一般不超过3位。例如方法的检出限我0.02mg/L,则分析结果报0.088mg/儿就不合理，应报 0.09mg/L。 (2)表示精密度的有效数字根据分析方法和待测物的浓度不同，一般只取1~2位有效数字。 返回目录上一页下一页尾页
返回目录 上一页 下一页 尾页 监测结果的数据处理 1.分析结果的表示按照分析方法中的要求执行，例如《水质总氮的测定 碱性过硫酸钾消解紫外分光 光度法》（HJ 636-2012）中规定了“当测定结果小于1.00mg/L 时，保留到小数点后两位；大于 等于1.00mg/L时，保留三位有效数字”。 （1）分析结果有效数字所能达到的小数点后位数，应与分析方法的检出限保持一致；分析结果的有 效数字一般不超过3位。例如方法的检出限我0.02mg/L，则分析结果报0.088mg/L就不合理，应报 0.09mg/L。 （2）表示精密度的有效数字根据分析方法和待测物的浓度不同，一般只取1～2位有效数字。 2）分析结果的表示 1、有效数据规则
监测结果的数据处理 3、分析结果的表示 (3)以一元线性回归方程(y=a+bx)计算时，校准曲线斜率b的有效位数，应与自变量x的有效数字位 数相等，或最多比x多保留一位。截距a的最后一位数，则和因变量列数值的最后一位取齐，或最多比y多 保留一位数。校准曲线的相关系数只舍不入，保留到小数点后第一个非9数字。如果小数点后多于4个9， 最多保留4位。 (4)在数值计算中，当有效数字位数确定之后，其余数字应按修约规则一律舍去。 (5)在数值计算中，某些倍数、分数、不连续物理量的数值，以及不经测量而完全根据理论计算或定义 得到的数值，其有效数字的位数可视为无限，在计算中按需要确定有效数字的位数。 返回目录上一页下一页尾页
返回目录 上一页 下一页 尾页 监测结果的数据处理 3、分析结果的表示 （3）以一元线性回归方程（y=a+bx）计算时，校准曲线斜率b的有效位数，应与自变量x的有效数字位 数相等，或最多比x多保留一位。截距a的最后一位数，则和因变量列数值的最后一位取齐，或最多比y多 保留一位数。校准曲线的相关系数只舍不入，保留到小数点后第一个非9数字。如果小数点后多于4个9， 最多保留4位。 （4）在数值计算中，当有效数字位数确定之后，其余数字应按修约规则一律舍去。 （5）在数值计算中，某些倍数、分数、不连续物理量的数值，以及不经测量而完全根据理论计算或定义 得到的数值，其有效数字的位数可视为无限，在计算中按需要确定有效数字的位数
监测结果的数据处理 2.数据修约按照《数据修约规则与极限数值的表示和判定》（GB/T8170-2008) 数据进舍原则为“四舍六入五考虑，五后非零则进一，五后皆零视奇偶，五前为偶应舍去，五前为奇 则进一，不论数字多少位，都要一次修约性”，修约负数，先以其绝对值按照上述规则进行修约，最后在 修约值前加上负号。即： 返回目录上一页下一页尾页
返回目录 上一页 下一页 尾页 监测结果的数据处理 数据进舍原则为“四舍六入五考虑，五后非零则进一，五后皆零视奇偶，五前为偶应舍去，五前为奇 则进一，不论数字多少位，都要一次修约性”，修约负数，先以其绝对值按照上述规则进行修约，最后在 修约值前加上负号。即： 2.数据修约按照《数据修约规则与极限数值的表示和判定》（GB/T 8170-2008）