理论依据：仙农信道编码定理基于单个符号考虑传输除非使用无穷的功率或几乎为零的传信率，无法避免错误Shannon换一个视角考虑：描述信道为一个随机映射X一→Y:P(Y/X)在这个描述下，是否存在某些关于无差错传信率的极限？Shannon信道编码定理信道互信息信道容量6
理论依据：仙农信道编码定理 基于单个符号考虑传输 ◼ 除非使用无穷的功率或几乎为零的传信率,无法避免错误 Shannon换一个视角考虑: ◼ 描述信道为一个随机映射 X→Y: P(Y/X) ◼ 在这个描述下, 是否存在某些关于无差错传信率的极限？ Shannon 信道编码定理 ◼ 信道 ◼ 互信息 ◼ 信道容量 6
Shannon的信道编码定理Shannon信道编码定理，也称为Shannon第二定理IR≤C,存在编码方法，能以任意小的错误率传递速率为R的信息，码长N要足够大。R>C，不存在满足上述要求的编码方法Shannon证明码长N大时，随机选择的码以很高概率为好码Shannon证明了所有可能的编码的平均性能，因此至少有一个性能很好问题：Shannon的证明是非构造性的，如何构造好码实现定理目标?实现ML译码的复杂性随N呈指数增长
Shannon的信道编码定理 Shannon信道编码定理，也称为Shannon第二定理 ◼ RC，存在编码方法，能以任意小的错误率传递速率为R的信息，码长N 要足够大。 ◼ R>C，不存在满足上述要求的编码方法 Shannon 证明码长N大时，随机选择的码以很高概率为好码 ◼ Shannon证明了所有可能的编码的平均性能，因此至少有一个性能很好 问题：Shannon的证明是非构造性的，如何构造好码实现定理 目标? ◼ 实现ML译码的复杂性随N呈指数增长 7
纠错与检错（晴）000（云）0013bit二进制编码表示不同天气状态（阴）010（雨）0118种天气（雪）1001任一码组在传输中若发生一个或多个错码，将变成另（霜）101一个信息码组。(雾）10接收端将无法发现错误（霍）4种天气000（晴）接收端有可能检查出码组中的1位错码、3位错码，但011（云）不能发现2位错码(阴）101接收端不能确定错误位置（雨）1102种天气（晴）000接收端能检测2位以下错码，或能够纠正1位错码新（雨）8
纠错与检错 3bit二进制编码表示不同天气状态 8种天气 ◼ 任一码组在传输中若发生一个或多个错码，将变成另 一个信息码组。 ◼ 接收端将无法发现错误 4种天气 ◼ 接收端有可能检查出码组中的1位错码、3位错码，但 不能发现2位错码 ◼ 接收端不能确定错误位置 2种天气 ◼ 接收端能检测2位以下错码，或能够纠正1位错码 8 ◼ 000（晴） ◼ 001（云） ◼ 010（阴） ◼ 011（雨） ◼ 100（雪） ◼ 101（霜） ◼ 110（雾） ◼ 111（雹） ◼ 000（晴） ◼ 011（云） ◼ 101（阴） ◼ 110（雨） ◼ 000（晴） ◼ 111（雨）
汉明距及汉明重量汉明重量（码重）?110码重2把码组中“1”的个数目称为码组的重量，简称码重。a?汉明距（码距）(0,1,0)(1,1,0)把两个码组中对应位上数字不同的(0,1,1)(1,1,1位数称为码组的距离，简称码距。码距文称汉明距离。(0,0,0)(1,00an最小码距(1,0,1)(0,0,1)把某种编码中各个码组之间距离的ao最小值称为最小码距（d）。110>码距的几何意义001和调制星座图的dmin一样，分组码的码距3最小码距也直接关系到码的性能
汉明距及汉明重量 汉明重量(码重) ◼ 把码组中“1”的个数目称为码组的 重量，简称码重。 汉明距(码距) ◼ 把两个码组中对应位上数字不同的 位数称为码组的距离，简称码距。 码距又称汉明距离。 最小码距 ◼ 把某种编码中各个码组之间距离的 最小值称为最小码距(d0 )。 码距的几何意义 ◼ 和调制星座图的dmin一样，分组码的 最小码距也直接关系到码的性能 (0,0,0) (0,0,1) (1,0,1) (1,0,0) (1,1,0) (0,1,0) (0,1,1) (1,1,1) a2 a0 a1 9 110 码重2 110 001 码距3
最小码距和检纠错能力的关系为检测e个错码，要求最小码距d。 ≥e+1为纠正t个错码，要求最小码距d。 ≥ 2t +1?为纠正t个错码同时检测e个错码，要求最小码距d。 ≥t+e+l,e>t10
最小码距和检纠错能力的关系 为检测e个错码，要求最小码距 为纠正t个错码，要求最小码距 为纠正t个错码同时检测e个错码，要求最小码距 d0 e +1 d0 2t +1 d t + e +1, e t 0 0 1 2 3 A B d e d0 B t A d 0 1 2 3 4 5 t d0 A B e 1 t t d 10