·3、大量数据运算时,可先多保留一位有效数 字,运算后,再修约。 ·4、修约标准偏差。修约的结果应使准确度 变得更差些。如S=0.213,取两位有效数字 修约为0.22,取一位为0.3,提高可信度
• 3、大量数据运算时,可先多保留一位有效数 字,运算后,再修约。 • 4、 修约标准偏差。修约的结果应使准确度 变得更差些。如S=0.213,取两位有效数字, 修约为0.22,取一位为0.3,提高可信度
三、有效数字的运算法则 1.加减运算 结果的位数以数点后位数最少的数为准 (即以绝对误差最大的数为准) 例: 0.0121 绝对误差:0.0001 25.64 0.01 1.057 0.001 26.71 12
12 1. 加减运算 结果的位数以小数点后位数最少 的数为准 (即以绝对误差最大的数为准) 例: 0.0121 绝对误差:0.0001 + 25.64 0.01 1.057 0.001 26.71 三、有效数字的运算法则
2.乘除运算时 有效数字的位数以有效数字位数最少的数为 准(即以相对误差最大的数为准) 例:(0.0325×5.103×60.06)/139.8=0.0713 0.0325 ±0.0001/0.0325×100%=±0.3% 5.103 ±0.001/5.103×100%=±0.02% 60.06 ±0.01/60.06×100%=±0.02% 139.8 ±0.1/139.8×100%=±0.07% 13
13 2. 乘除运算时 有效数字的位数以有效数字位数最少 的数为 准(即以相对误差最大的数为准) 例:(0.0325 5.103 60.06)/ 139.8 = 0.0325 ±0.0001/0.0325 100%=±0.3% 5.103 ±0.001 /5.103 100%=±0.02% 60.06 ± 0.01 /60.06 100%=±0.02% 139.8 ±0.1 /139.8 100% =±0.07% 0.0713
3.乘方或开方时,结果有效数字位数不变。 ·如 6.542=42.87.56=2.75 请计算P285题{5,6} 注意: 大量数据运算时,运算后,再修约。 14
14 3. 乘方或开方时,结果有效数字位数不变。 • 如 6.54 42.8 2 = 7.56 = 2.75 请计算 P28 5题 {5,6} 大量数据运算时,运算后,再修约。 注意: