数值量化两种数值量化方式：截尾量化和舍入量化O[x]Q[x]b2β.2-Q[x] = β3q3qn=12q2qqqxq2q3q4q-4g-3q-2q-g2q3q4g4g-3gq-201-q-q = 2-b2q2q-3q3q补码4q-4q截尾量化舍入量化
数值量化 q -q 2q -2q 3q 4q -3q q 2q 3q -4q -4q -3q -2q -q x Q[x] q -q 2q -2q 3q 4q -3q q 2q 3q -4q -4q -3q -2q -q x Q[x] 两种数值量化方式：截尾量化和舍入量化 截尾量化 舍入量化 0 1 [ ] 2 b n n n Q x - = = b q - = 2 补码
数值量化如下十进制数序列：d=[0.6250.573-0.8720.268-0.326q= 2-5 = 0.03125按照5bit截尾序列：0.625000.56250-0.843750.25000-0.31250[0.10100]b[1.11011]b[0.01000]b[0.10010]b[1.01010]bq=2- = 0.03125按照5bit舍入序列：0.625000.56250-0.875000.28125-0.31250[0.10100]b[0.10010]b[1.11100]b[0.01001]b[1.01010]b
数值量化 如下十进制数序列： d=[0.625 0.573 -0.872 0.268 -0.326] 0.62500 0.56250 -0.87500 0.28125 -0.31250 [0.10100]b [0.10010]b [1.11100]b [0.01001]b [1.01010]b 0.62500 0.56250 -0.84375 0.25000 -0.31250 [0.10100]b [0.10010]b [1.11011]b [0.01000]b [1.01010]b 按照5bit截尾序列： 按照5bit舍入序列： 5 q 2 0.03125 - = = 5 q 2 0.03125 - = =
量化误差e = Q[xl- x※截尾误差：-q<er≤0正数、负数补码截尾误差范围为q =2-b0≤er<q负数原码和反码截尾误差范围为※舍入误差：-q/2<er ≤q/2舍入误差对称分布，截尾误差单极性分布
量化误差 ※ 截尾误差： e Q x x = - [ ] ※ 舍入误差： 正数、负数补码截尾误差范围为 负数原码和反码截尾误差范围为 舍入误差对称分布，截尾误差单极性分布。 b q - = 2 T - q e 0 T 0 e q R - q e q 2 2
量化误差量化误差(eR，er)统计分析：均匀分布的随机变量舍入误差eR：-q/2<eR≤q/2截尾误差eT：-q<er≤oA P(er)A P(e)1/ q1/ qeRer00-qq/2-q/2舍入误差概率密度函数曲线截尾误差概率密度函数曲线
量化误差 舍入误差eR： 截尾误差eT： 量化误差(eR , eT )统计分析：均匀分布的随机变量。 R - q e q 2 2 T - q e 0 Re R P e( ) 1 q -q 2 0 q 2 Te T P e( ) 1 q -q 0 舍入误差概率密度函数曲线 截尾误差概率密度函数曲线
量化误差4P(en)均值方差 (平均功率)1/qer-q/20q/2226q?MR =E(eR)=0oR =E(er -μr))舍入误差eR：1212截尾误差er:2260 =E(er -t))=%A P(er)μr =E(er)=-q/21/q1212e
量化误差 2 2 2 2 R R R 1 12 ( ) 2 2 b q E e - 舍入误差e R R = = E e 0 = - = = R： 2 2 2 2 T R T 1 12 ( ) 2 2 b q E e - = - = = T T = = E e -q / 2 截尾误差eT： 均值 方差（平均功率） Re R P e( ) 1 q -q 2 0 q 2 Te T P e( ) 1 q -q 0