Matlab计算与仿真技术 第十六讲:数值计算I ittp: //human-robot sysu. edu. cn/course 王国利 http://human-robot.sysu.edu.cn 信息科学与技术学院 中山大学
王国利 信息科学与技术学院 中山大学 http://human-robot.sysu.edu.cn Matlab计算与仿真技术 第十六讲: 数值计算-I http://human-robot.sysu.edu.cn/course
Matlab计算与仿真 第十六讲提纲 ■数值计算I 误差 中山火學
Matlab计算与仿真 ◼ 数值计算-I - 误差 第十六讲提纲
Matlab计算与仿真 数值分析-I 误差 小误差的自然引入 >>format long e display lots of digits >2.6+0.2 ans 2. 800000000000000e+00 >ans+0.2 ans 3.000000000000000e+00 中山火學
Matlab计算与仿真 数值分析-I ◼ 误差 - 小误差的自然引入 >>format long e % display lots of digits >> 2.6 + 0.2 ans = 2.800000000000000e+00 >> ans + 0.2 ans = 3.000000000000000e+00
Matlab计算与仿真 数值计算(续) 小误差的自然引入(续) >ans+0.2 ans 3.200000000000001e+00 (为什么会出现最后一位非零数字呢?) >>2.6+0.6 ans 3.200000000000000e+00 中山火學
Matlab计算与仿真 数值计算 (续) - 小误差的自然引入(续) >> ans + 0.2 ans = 3.200000000000001e+00 (为什么会出现最后一位非零数字呢?) >> 2.6 + 0.6 ans = 3.200000000000000e+00
Matlab计算与仿真 数值计算(续) 整数的存储 base 10 conversion base 2(8bits 1=2^0 00000001 1248 2=2^1 00000010 4=2^2 00000100 8=2^3 00001000 9 8+1=2^3+2^0 00001001 10 8+2=2^3+2~1 00001010 (bbb.b)2=b^(n-1)+b^(n-2)+,+b^0 ( uint8/int16/int32指定存储方式 中山火學
Matlab计算与仿真 数值计算 (续) 整数的存储 base 10 conversion base 2 (8bits) 1 1 = 2^0 0000 0001 2 2 = 2^1 0000 0010 4 4 = 2^2 0000 0100 8 8 = 2^3 0000 1000 9 8 + 1 = 2^3 + 2^0 0000 1001 10 8 + 2 = 2^3 + 2^1 0000 1010 (bbbbb...b)_2=b^(n-1)+b^(n-2)+...+b^0 (u)int8/int16/int32 指定存储方式