上游充通大 有效数字的运算:指数函数 Shanghal Jlao Tong University 运算后的有效数字的位数与指数的小数点后的位 数相同(包括紧接小数点后的零) 例:106.25=1.8×106 106.25=1.8×106 100.0035=1.008 100.0035=1.008 :行司 过价行 16 上海交通大学物理实验中心http:/Ipec,stu.edu.cn
有效数字的运算:指数函数 运算后的有效数字的位数与指数的小数点后的位 数相同(包括紧接小数点后的零) 例: 106.25 = 1.8 × 106 106.25 = 1 8 × 106 106.25 = 1.8 × 106 100.0035 = 1.008 100 0035 1 008 . = 1.008 16
上游充通大 有效数字的运算:三角函数 Shanghal Jlao Tong University 取位随角度有效数字而定 例:Sin30°00'=0.5000 C0s20°16'=0.9381 行行司 过价行司 g国 17 上海交通大学物理实验中心http://pec,stu.edu.cn
有效数字的运算:三角函数 取位随角度有效数字而定 例:Sin30°00′= 0.5000 Cos20°16′= 0.9381 17
上游充通大 有效数字的运算:注意点 Shanghal Jlao Tong University 校上的1 注意点」 ·正确数不适用有效数字的运算规则。 ·取常数与测量值的有效数字的位数相同。 -a行7 过价行 g国 18 上海交通大学物理实验中心http:/pec,stu.edu.cn
有效数字的运算:注意点 • 正确数不适用有效数字的运算规则。 • 取常数与测量值的有效数字的位数相同。 18
上游充通大 有效数字尾数的舍入规则 Shanghal Jlao Tong University 数字修约 按照一定的规则确定一致的位数,然后舍去某些数字后面多余 的尾数的过程 数字修约规则 (国家标准文件: GB8170-87) 口决:4舍6入5看右,5后有数进上去, 尾数为0向左看,左数奇进偶舍弃。 19 上海交通大学物理实验中心http://pec,stu.edu.cn
有效数字尾数的舍入规则 数字修 约 按照一定的规则确定一致的位数,然后舍去某些数字后面多余 的尾数的过程 数字修约规则 (国家标准文件:GB8170 -87 ) 口诀: 4舍6入5看右,5后有数进上去, 尾数为0向左看,左数奇进偶舍弃。 19
上游充通大 有效数字尾数的舍入规则 Shanghal Jlao Tong University 例:将下列数字全部修约为四位有效数字 -1) 尾数<5,1.11840000→1.118 -2)尾数>5,1.11860000→1.119 -3)尾数=5, a)5右面还有不为0的数 1.11859999→1.119 1.11850001→1.119 b)5右面尾数为0则凑偶 1.11750000→1.118 1.11850000→1.118 20 上海交通大学物理实验中心http://pec,su.edu.cn
有效数字尾数的舍入规则 例:将下列数字全部修约为四位有效数字 – 1)尾数 < 5 ,1.11840000 →1.11 8 – 2 )尾数 > 5 ,1 118 . 60000 →1 11 . 9 – 3)尾数= 5 , – a ) 5右面还有不为 0的数 1.11859999 →1.11 9 1.11850001 →1.11 9 – b ) 5右面尾数 为 0则凑偶 1.11 750000 →1.118 1.11 850000 →1.118 20