GB17378.2-1998 两位数字。原始记录的有效数字位数,既不可少,也不可多。记取的原则是根据仪器、仪表指示的最小分 度值如实记录并允许增记一位估计数字。 实验室通用的计量仪表可记取的位数如下 万分之一天平小数点后第四位即万分位 上皿天平小数点后第二位即百分位。 分光光度计吸光值记到小数点后第三位即千分位 玻璃量器记取的有效数字位数须根据量器的允许误差和读数误差决定 常见的一等量器准确容量的记录按表3和表4 表3一等无分度移液管准确容量的表示 容量示值 允许差 准确容量 ±0.006 3.00 ±0.01 5.00 10 ±0.03 ±0.04 ±0.08 100.0 表4一等量入式量瓶准确容量的表示 L 容量示值 允许差 准确容量 ±0.05 100.0 200 ±0. 200.0 ±0.10 250.0 ±0.15 500.0 1000 ±0.30 1000.0 ±0.50 2000.0 5.1.3近似计算规则 为了确保最终结果的数值中只包含有效数字(定位“0”例外),在运算中要遵守下列规则 5.1.3.1加减运算最终计算结果中保留的小数有效位数,应与参加运算的数值中小数位数最少者相 同。例: 11.14+5.91225=17.05225→17.05 11.14-5.91225=5.22775→5.23 上例最终结果只能保留两位小数,因为11.14的末位数字4本身就不可信,其后的数字则更不可 信 5.1.3.2乘除运算得数经修约后,保留的有效数字位数应与参加运算的几个数值中有效数字位数最
GB 17378.2一 1998 两位数字。原始记录的有效数字位数,既不可少,也不可多。记取的原则是根据仪器、仪表指示的最小分 度值如实记录并允许增记一位估计数字。 实验室通用的计量仪表可记取的位数如下: 万分之一天平 小数点后第四位即万分位。 上皿天平 小数点后第二位即百分位。 分光光度计 吸光值记到小数点后第三位即千分位。 玻璃量器 记取的有效数字位数须根据量器的允许误差和读数误差决定。 常见的一等量器准确容量的记录按表 3和表 40 表 3 一等无分度移液管准确容量的表示 mL │容量示值│ 允许差 │ 准确容量│ │2 │ 士 0.006 │ 2. 00 │ │3 │ 士 0. 006│ 3.00 │ │5 │ 士 0. 01 │ 5.00 │ │10 │ 士 0.02 │ 10.00 │ │15 │ 士 0. 03 │ 15.00 │ │20 │ 士 0.03 │ 20.00 │ │25 │ 士 0.04 │ 25. 00 │ │50 │ 士 0. 05 │ 50.00 │ │100 │ 士 0.08 │ 100. 0 │ 表 4 一等量入式量瓶准确容量的表示 ml- │容量示值│ 允许差 │ 准确容量│ │10 │ 士 0.02 │ 10. 00 │ │25 │ 士 0.03 │ 25. 00 │ │50 │ 士 0.05 │ 50.00 │ │100 │ 士 0.10 │ 100.0 │ │200 │ 士 0. 10 │ 200. 0 │ │250 │ 士 0. 10 │ 250.0 │ │500 │ 士 0. 15 │ 500. 0 │ │1 000 │ 士 0. 30 │ 1 000.0 │ │2 000 │ 士 0.50 │ 2 000.0 │ 5.1.3 近似计算规则 为了确保最终结果的数值中只包含有效数字(定位“0”例外),在运算中要遵守下列规则: 5.1.3.1 加减运算 最终计算结果中保留的小数有效位数,应与参加运算的数值中小数位数最少者相 同。例 : 11.14十 5. 912 25= 17. 052 25” 17. 05 11.14一 5. 912 25= 5. 227 75一 5. 23 上例最终结果只能保留两位小数,因为 11. 14的末位数字 4本身就不可信,其后的数字则更不可 信。 5.1.3.2 乘除运算 得数经修约后,保留的有效数字位数应与参加运算的几个数值中有效数字位数最
GB17378.2—1998 少者相同。 5.1.3.3对数运算对数的有效数字位数应和原数(真数)的相同 5.1.3.4平方、立方、开方运算计算结果的有效数字位数应和原数的相同 513.5x、e和√2、√3、女等的有效位数,须参照与之相关的数据决定保留的位数。 5.1.3.6来自一个正态总体的一组数据,多于4个时,其平均值的有效数字位数可比原数的增加一位。 5.1.3.7用于表示方法或分析结果精密度的标准差,其有效数字的位数一般只取一位;当测定次数很 多时可取两位,且最多只能取两位。 5.1.3.8报告分析结果有效数字位数,应根据分析方法的精密度即标准差的大小决定。通常可取四分 之一个标准差的首数所在数位,定为分析结果的尾数例如某一测定结果为25.352,标准差为1.4,四分 之一标准差为0.35,其首位数字所在数位是十分位,即定为该结果的末位,可报为25.4 5.1.4数值修约 数值修约详见GB8170-87有关规定。 5.1.4.1在拟舍弃的数字中,若左边第一个数字小于5(不包括5)时则舍去,即拟保留的末位数字不 变 例如将14.2432修约到保留一位小数: 修约前 修约后 14.2432 14.2 5.1.4.2在拟舍弃的数字中,若左边第一个数字大于5(不包括5)时,则进一,即所拟保留的末位数字 加一。 例如将26.4843修约到只保留一位小数 修约前 修约后 26.4843 5.1.4.3在拟舍弃的数字中,若左边第一个数字等于5,其右边的数字并非全部为“0”时,则进一;若5 的右边皆为“0”,拟保留的末位数字若为奇数则进一,若为偶数(包括“0”)则不进 例如将下列数值修约到只保留一位小数 修约前 修约后 0.3500 0.4 51.4.4所拟舍弃的数字,若为两位以上数字时,不得连续进行多次修约,应根据所拟舍弃数字中左边 第一个数字的大小,按上述规定一次修约出结果。 例如将15.4546修约成整数。 正确的做法是: 修约前 修约后(结果) 15.4546 不正确的做法
GB 17378‘2一 1998 少者相同。 对数运算 对数的有效数字位数应和原数(真数)的相同。 平方、立方、开方运算 计算结果的有效数字位数应和原数的相同。 二、‘和V- -2 一, 、’/'-3 一,’粤3等’J的”J有’J效‘卜位一 数朴 ,’须产、参一 照”、、与带之~ 相’曰关尸、的”J数朴 据带目决,、定,~保r,、留囚 的”子位一数朴 。“ 来自一个正态总体的一组数据,多于 4个时,其平均值的有效数字位数可比原数的增加一位。 用于表示方法或分析结果精密度的标准差,其有效数字的位数一般只取一位,当测定次数很 I J 月 月 ‘ ︺ n卜 U 7 叮 . . … Q J 勺 口 O J 勺 J q J . . … 月 . . 月. ‘ 月 . . 月 .. 月 . . . . … -﹄ ︺ ‘ J 工﹄d 只 口 尸卜﹂ 多时可取两位,且最多只能取两位。 5门.3.8 报告分析结果有效数字位数,应根据分析方法的精密度即标准差的大小决定。通常可取四分 之一个标准差的首数所在数位,定为分析结果的尾数。例如某一测定结果为 25.352,标准差为 1.4,四分 之一标准差为 0.35,其首位数字所在数位是十分位,即定为该结果的末位,可报为25.4. 5.1.4 数值修约 数值修约详见GB 8170-87有关规定。 5.1.4.1 在拟舍弃的数字中,若左边第一个数字小于 5(不包括 5)时则舍去,即拟保留的末位数字不 变。 例如将 14.2432修约到保留一位小数: 修约前 修约后 14.2432 14.2 5.1.4. 2 在拟舍弃的数字中,若左边第一个数字大于 5(不包括 5)时,则进一,即所拟保留的末位数字 力口一 。 例如将26.4843修约到只保留一位小数: 修约前 修约后 26.4843 26.5 5.1.4.3 在拟舍弃的数字中,若左边第一个数字等于 5,其右边的数字并非全部为“0”时,则进一;若 5 的右边皆为“0",拟保留的末位数字若为奇数则进一,若为偶数(包括“0")则不进。 例如将下列数值修约到只保留一位小数: 修约前 修约后 0.3500 0.4 0.4500 0.4 1.0500 1.0 5.1.4.4 所拟舍弃的数字,若为两位以上数字时,不得连续进行多次修约,应根据所拟舍弃数字中左边 第一个数字的大小,按上述规定一次修约出结果。 例如将 15.4546修约成整数。 正确的做法是: 修约前 修约后(结果) 15.4546 15 不正确的做法 :
GB17378 1998 修约前 次修约 二次修约 15.4546 15.455 5.46 三次修约 四次修约(结果) 15.5 在修约计算过程中对中间结果不必修约将最终结果修约到预期位数 52异常值的统计检验 组(群)正常的测定数据,应是来自具有一定分布的同一总体;若分析条件发生显著变化,或在实 验操作中出现过失,将产生与正常数据有显著性差别的数据此类数据称为离群数据或异常值 仅怀疑某一数据可能会歪曲测定结果,但尚未经过检验判定为异常值时,称此数据为可疑数据。 5.2.1可疑数据的检验 剔除离群数据,会使测定结果更客观;若仅从良好愿望出发,任意删去一些表观差异较大并非离群 数据虽由此得到认为满意的数据但并不符合客观实际。因此,对可疑数据的取舍,必须参照下述原则 处理。 52.1.1仔细回顾和复查产生可疑值的试验过程如果是过失误差,则舍弃。 52.1.2如果未发现过失,则要按统计程序检验决定是否舍弃。 5.2.2异常值的判别准则 5.2.21计算的统计量不大于显著性水平a=0.05的临界值则可疑数据为正常数据,应保留。 5.22.2计算的统计量大于a=0.05的临界值但又不大于a=0.01的临界值,此可疑数据为偏离数 据,可以保留,取中位数代替平均数值。 5.2.2.3计算的统计量大于a=0.01的临界值,此可疑值为异常值,应予剔除,并对剩余数据继续检 验,直到数据中无异常值为止 5.23异常值的检验方法 常用的检验方法如下 5.2.3.1Dxon检验法 用于一组测定数据的一致性检验和剔除异常值检验。 步骤 a.将重复n次的测定值从小到大排列为X1、X2、X3…Kn; b.按表5列公式,求算Q值 c.根据选定的显著水平a和重复测定次数n,查表6得临界值Qn; d.按5.2.2条的判别准则,决定取舍。若Q>Q0,则可疑值为异常值,舍弃 若Qa<Q≤Q。a,则可疑值为偏离值,可以保留,取中位数代替平均数值。 若Q≤Q。0s,则可疑值为正常值,保留 例:一组测定值按从小到大的顺序排列为14.56,14.90,14.90,14.92,14.95,14.96,15.00,15.00, 15.01,15.02。 检验最小值14.56是否为异常值 可疑值为最小值X1时,按下式计算统计量Q: =0.755 当n=10,显著性水平a=0.01,查表6临界值为0.597, 0.755>0.597 Q>Q。01
Gs 17378.2一 1998 修约前 一次修约 二次修约 15.4546 15. 455 15.46 三次修约 四次修约(结果) 15.5 16 在修约计算过程中对中间结果不必修约,将最终结果修约到预期位数。 5.2 异常值的统计检验 一组(群)正常的测定数据,应是来自具有一定分布的同一总体;若分析条件发生显著变化,或在实 验操作中出现过失,将产生与正常数据有显著性差别的数据,此类数据称为离群数据或异常值。 仅怀疑某一数据可能会歪曲测定结果 ,但 尚未经过检验判定为异常值时,称此数据为可疑数据 。 5.2.1 可疑数据的检验 剔除离群数据,会使测定结果更客观;若仅从良好愿望出发,任意删去一些表观差异较大并非离群 数据,虽由此得到认为满意的数据,但并不符合客观实际。因此,对可疑数据的取舍,必须参照下述原则 处理。 5.2.1.1 仔细回顾和复查产生可疑值的试验过程,如果是过失误差,则舍弃。 5.2.1.2 如果未发现过失,则要按统计程序检验,决定是否舍弃。 5.2.2 异常值的判别准则 5.2.2.1 计算的统计量不大于显著性水平 a=o. 05的临界值,则可疑数据为正常数据,应保留。 5.2-2.2 计算的统计量大于 a=0. 05的临界值但又不大于 a=0. 01的临界值,此可疑数据为偏离数 据,可以保留,取中位数代替平均数值。 5.2-2.3 计算的统计量大于 a=o. 01的临界值,此可疑值为异常值,应予剔除,并对剩余数据继续检 验 ,直到数据中无异常值为止。 5.2.3 异常值的检验方法 常用的检验方法如下。 5.2.3.1 Dixon检验法 用于一组测定数据的一致性检验和剔除异常值检验。 步骤 : a.将重复n次的测定值从小到大排列为X1,XZ.X,...... X}f b.按表 5列公式,求算 Q值; c.根据选定的显著水平 a和重复测定次数 n,查表 6得临界值Q.; d.按 5.2.2条的判别准则,决定取舍。若 Q>QO of,则可疑值为异常值,舍弃。 若 Qo. o5CQ<,Q" of,则可疑值为偏离值,可以保留,取中位数代替平均数值。 若QCQO。5,则可疑值为正常值,保留。 例:一组测定值按从小到大的顺序排列为 14.56,14.90,14.90,14.92,14.95,14.96,15.00,15-00, 15.01,15.02。 检验最小值 14.56是否为异常值。 可疑值为最小值 X,时,按下式计算统计量Q: X,一 X, X,一1一 X, 14. 90一 14.56 15.01一 14.56 = 0. 755 当n=10,显著性水平 a=0. 01,查表 6临界值为 。 0. 755> 0. 62> Qa 597 597
GB17378.2-1998 判定最小值X1为异常值,应予剔除。 表5Dxon检验统计量(Q)计算公式 n值范围 可疑數值为最小值X时可疑数值为最大儐X时 3~7 Q x 8~10 x X 11~13 X3-X1 Q X。一 表6 Dixon检验临界值(Q)表 显著性水平(a) 显著性水平(a) 0.10 0.01 0.05 0.988 0.616 0.679 0,765 899 16 0.454 0.507 0.595 0.642 0.780 0.438 0,490 6 0.434 0.507 0.637 19 0.462 0.479 0,554 20 0.401 0,450 0.535 0,512 0.391 0.524 0.517 0,576 0.679 0.505 0.546 0.413 0.497 0.467 0.521 0.360 0.489 0.64 5.2.3.2 Grubbs检验法 用于多组测定均值的一致性检验和剔除离群值的检验。也适用于实验室内一系列单个测定值的 致性检验。 步骤: 设有L组数据,各组平均值分别为叉1,R2,……XL 1)将L个均值按大小顺序排列,最大均值记为Xmx,最小均值记为Xmn; 2)由L个均值(,)计算总均值Ⅹ和标准偏差s: X X) L 式中:x,—一代表各组均值 3)根据可疑值Xm或Xmn分别按下式计算统计量t1或t2; X-X 4)根据给定的显著性水平a和组数L查表7得临界值; 5)按5.2.2条的判别准则,决定取舍 6)若本法用于实验室内一组数据检验时,将组数L改为测定次数n将各组平均值X,改为单次测 定值X
GB 17378.2一 1998 判定最小值 X,为异常值,应予剔除。 表 5 Dixon检验统计量(Q)计算公式 │n值 范围 │ 可疑数值为最 小值 xl时│ 可疑 数值 为最大值 X。时 │ │3- 7 │ X,一 X, │ X.一 X_-, │ │ │ 6110 = },` │ Q10导 ,示一一戈乡= │ │ │ J、月一 n 1 │ 人 ”一 人 1 │ │8^ 10 │ _ X。一 X, │ _ X,一 X,-, │ │ │ Q11= v 一一一-v │ Q11=,吞一一茂乡‘ │ │ │ n n-1一 A 1 │ 人 ”一 人 2 │ │11^-13 │ _ X,一 Xl │ _ X.一 X__> │ │ │ Q21 = v 一一-v │ 6121 = v 一一v 0 │ │ │ n n_1一 111 │ n 凡一 人 z │ │14^ 25 │ _ X。一X, │ _ X.一X__l │ │ │ Q22 - v~一一一一v │ Qzz- 一., │ │ │ 八 日一2一 A i │ 人 .一 八 3 │ 表 6 Dixon检验临界值(Qa)表 │n │ 显 著 性 水 平 (a ) │ 一 │ 显 著 性 水 平 (a) │ │ │ 0.10 │ 0.05 │ 0.01 │ │ 0.10 │ 0.05 │ 0.01 │ │3 │ 0.886 │ 0.941 │ 0. 988│ 1- 11 │ 0.472 │ 0.525 │ 0. 616│ │4 │ 0.679 │ 0.765 │ 0.899 │ } 16 │ 0.454 │ 0.507 │ 0. 595│ │5 │ 0.557 │ 0. 642│ 0.780 │ { 17 │ 0. 438│ 0.490 │ 0.577 │ │6 │ 0.482 │ 0. 560│ 0. 698│ { 18 │ 0.424 │ 0. 475│ 0.561 │ │7 │ 0.434 │ 0.507 │ 0.637 │ } ’”│ 0.412 │ 0.462 │ 0. 547│ │8 │ 0.479 │ 0.554 │ 0.683 │ ├─┼───┼───┼───┤ {{ 220 ‘ │ │ 00..43091 1 ││ 00..44540 0 ││ 00. .552354 ││ │9 │ 0.441 │ 0.512 │ 0. 635│ } 22 │ 0. 382│ 0.430 │ 0. 514│ │10│ 0.409 │ 0.477 │ 0. 597│ { 23 │ 0. 374│ 0.421 │ 0. 505│ ├─┼───┼───┼───┤ 一24 │ 0.367 │ 0. 413│ 0.497 │ │11│ 0.517 │ 0.576 │ 0.679 │ } “5 │ 0. 360│ 0.406 │ 0.489 │ │12│ 0.490 │ 0.546 │ 0. 642│ │ │ │ │ │13│ 0.467 │ 0. 521│ 0.615 │ │ │ │ │ │14│ 0.492 │ 0.546 │ 0. 641│ │ │ │ │ 5.2.3.2 Grubbs检验法 用于多组测定均值的一致性检验和剔除离群值的检验。也适用于实验室内一系列单个测定值的一 致性检验 。 步骤 : 设有L组数据,各组平均值分别为X X2....... XL. 1)将L个均值按大小顺序排列,最大均值记为Xmax,最小均值记为Xmm ; 2)由L个均值(又)计算总均值灭和标准偏差:: _X 二 止二 L 去 L ,一,s= 人 、I } —}L( L X一:一1 二 式中:X,— 代表各组均值 3)根据可疑值Xm.、或X-分别按下式计算统计量t,或t2; t,一Xmax - X X一 X- 4)根据给定的显著性水平a和组数 L查表 7得临界值; 5)按5. 2.2条的判别准则,决定取舍; 6)若本法用于实验室内一组数据检验时,将组数L改为测定次数,,将各组平均值又,改为单次测, 定值 X o
GB17378.2-1998 例有10个实验室分析同一样品,其平均值分别为4.41,4.49,4.30,4.51,4.64,4,75,4 4.95,5,01,5,39,检验最大值5.39是否为离群值。 R 4.746=4.75 X,-又)2 0.3051=0,31 ≈又m,-R5.39-4.7=211 当L=10,a=0.05,查表7临界值(T)为2.18; 判定:2.11<2.18,t<Ta,最大值5.39为正常值 表7 Grubbs检验临界值(T)表 显著性水平(a) 显著性水平(a L 0.025 0.005 L 0.025 0.01 l.155 1.155 1.155 2.745 2.908 3.103 3.236 2.759 2.9243.1193.253 2.7732.938 1.8221.887 1.973 2.786 2.952 3.286 6789 33338378804245 2.9653 2.811 3.316 2.1102.215 2.8232.9913.1913,330 2.482 3.204 3.343 o12345 2.234 2.846 3.014 3.2163.356 2.412 2.857 0253.2283.369 2.331 2.462 2.699 2.866 3.036 3.240 3.381 2.3712.507 2.877 3.046 3.251 3.393 2.443 2.747 2.852 2.896 3.067 3.271 3.415 2.47 2.620 2.785 2.895 323.4 3.435 19 2.532 2.681 2.854 2.968 46 3.094 3.302 3.445 2.557 2.931 3.310 3.45 2.9403.1113.3193.464 2.758 2.9483.1203.3293.474 23 2.6242.781 3.087 50 3.128 3.336 3.483 3.199 3.411 3.560 082 3.4713 2.6812.8413.0293.157 80 3. 3.305 521 3.673 3.178 3.716 7142.8763.06 3.085 218 5.2.3.3 Cochran最大方差检验法 用于多组测定值的方差一致性检验和剔除离群方差检验 步骤 设有L组数据,每组测定n次,标准差分别为S1,S2,S3,…SL;
Gs 17378.2一 1998 例 4. 95,5. 有 10个实验室分析同一样品,其平均值分别为 4.41,4.49,4.30,4.51,4.64,4.75,4.81 01,5-39,检验最大值 5.39是否为离群值。 _ 万又 灭= .导 二 4. 746= 4.75 lo E (Y,一X)2 10一 1 一 x = 0. 3051= 0. 31 rlll月| we,别 湖 S -- t,一X... 5. 39 一 4. 75 0.31 = 2.11 当L=10,a=0.05,查表 7 1庙界值(To)为 2.18; 判定:2.11<2.18,t,<Ta,最大值 5. 39为正常值。 表 7 Grubbs检验 临界值(Ta)表 │ 显著性水平((a) │ 一 _ 显著性水平((a) │ │L 0.05 0.025 0.01 0.005 │ { L 0.05 。·025 0. 01 0.005 │ │3 1.153 1.155 1.155 1.155│ 30 2.745 2.908 3.103 3.236│ │4 1.463 1.481 1.492 1.496│ 31 2.759 2.924 3.119 3.253│ │5 1.672 1.715 1.749 1.764│ 32 2.773 2.938 3.135 3.270│ │6 1.822 1.887 1.944 1.973│ 33 2.786 2.952 3.50 3.286│ │? 1.938 2.020 2.097 2.139 │ 34 2.799 2.965 3.164 3.301│ │8 2.032 2.126 2.221 2.274│ 35 2.811 2.979 3.178 3.316│ │9 2.110 2.215 2.323 2.387│ 36 2.823 2.991 3.191 3.330│ │10 2.176 2.290 2.410 2.482│ 37 2.835 3.003 3.204 3.343│ │11 2.234 2.355 2.485 2.564│ 38 2.846 3.014 3.216 3.356│ │12 2.285 2.412 2.550 2.636│ 39 2.857 3.025 3.228 3.369│ │13 2.331 2.462 2.607 2.699│ 40 2.866 3.036 3.240 3.381│ │14 2.371 2.507 2.659 2.755│ 41 2.877 3.046 3.251 3.393│ │15 2.409 2.549 2.705 2.806│ 42 2.887 3.057 3.261 3.404│ │16 2.443 2.585 2.747 2.852│ 43 2.896 3.067 3.271 3.415│ │17 2.475 2.620 2.785 2.895│ 44 2.905 3.075 3.282 3.425│ │18 2.504 2.651 2.821 2.932│ 45 2.914 3.085 3.292 3.435│ │19 2.532 2.681 2.854 2.968│ 46 2.923 3.094 3.302 3.445│ │20 2.557 2.709 2.881 3.001│ 47 2.931 3.103 3.310 3.455│ │21 2.580 2.733 2.912 3.031│ 48 2.940 3.111 3.319 3.464│ │22 2.603 2.758 2.939 3.060│ 49 2.948 3.120 3.329 3.474│ │23 2.624 2.781 2.963 3.087│ 50 2.956 3.128 3.336 3.483│ │24 2.644 2.802 2.987 3.112│ 60 3.025 3.199 3.411 3.560│ │25 2.663 2.822 3.009 3.135│ 70 3.082 3.257 3.471 3.622│ │26 2.681 2.841 3.029 3.157│ 80 3.130 3.305 3.521 3.673│ │27 2.698 2.859 3.049 3.178│ 90 3.171 3.347 3.563 3.716│ │28 2.714 2.876 3.068 3.199│ 100 3.207 3.383 3.600 3.754│ │29 2.730 2.893 3.085 3.218│ │ 5.2.3.3 Cochran最大方差检验法 用于多组测定值的方差一致性检验和剔除离群方差检验。 步骤 : 设有 L组数据,每组测定 n次,标准差分别为 S1,SZ,S3 f......SL f