K-L变换的性质 1.信号的最佳（压缩）表达—一均方误差最小 与每一维特征山，对应的本征值入，反映了该维特征对表达原空间x的 有效性（贡献）大小。 从大到小排序：1≥2之…之九如。 取：从前面开始 丢：从后面开始 电子科技大学研究生《模式识别与机器学习》
电子科技大学研究生《模式识别与机器学习》 K－L变换的性质
K一L变换的性质 2.展开系数互不相关 K-L展开式的第一个重要性质是展开系数彼 此无关的，即任意两个系数乘积的期望为 E[C,C]=E[uxxu]=入，uu,=,δ 其中：δ，为Kronecker积。 电子科技大学研究生《模式识别与机器学习》
电子科技大学研究生《模式识别与机器学习》 2. 展开系数互不相关 K-L展开式的第一个重要性质是展开系数彼 此无关的，即任意两个系数乘积的期望为 其中：dij为Kronecker积 。 K－L变换的性质
K一L变换的性质 ☐3.表示熵 信息熵是对于不确定性的度量。K-L变换的实质是使矩阵的D 个特征值中，只有几个是较大的，其余较小，因此，K-L 坐标系可以有效地进行信息压缩。 由 K-L 征 令 ,j-2.@D÷0=1公=1 入和 H,=-2,1og入 电子科技大学研究生《模式识别与机器学习》
电子科技大学研究生《模式识别与机器学习》 □ 3. 表示熵 信息熵是对于不确定性的度量。K-L变换的实质是使矩阵的D 个特征值中，只有几个是较大的，其余较小，因此，K-L 坐标系可以有效地进行信息压缩。 K－L变换的性质
K一L坐标系的生成 口数据集合{x}的K-L产生矩阵是由二阶统计量来确定 的。 样本所属类别未知时： 1、可直接使用样本的自相关矩阵 Ψ=E[xr] 2、常使用协方差矩阵 =E[(-E]x-E[]y1 CA 电子科技大学研究生《模式识别与机器学习》
电子科技大学研究生《模式识别与机器学习》 K－L坐标系的生成 □ 数据集合{x}的K-L产生矩阵是由二阶统计量来确定 的。 样本所属类别未知时： 1、可直接使用样本的自相关矩阵 2、常使用协方差矩阵 PCA
K一L坐标象的生成 样本所属类别已知时： 可以使用各种二阶矩，得到不同的K-L坐标系 1、使用总类内离散度矩阵 Σ：=E[(X-;)X-,)],x∈w 2、每次使用一个类别样本集合来建立K-L坐 标系，并进行组合表示. 该K-L变换常用于信息压缩，很少用于分类。 电子科技大学研究生《模式识别与机器学习》
电子科技大学研究生《模式识别与机器学习》 样本所属类别已知时： 可以使用各种二阶矩，得到不同的K-L坐标系 1、使用总类内离散度矩阵 2、每次使用一个类别样本集合来建立K-L坐 标系，并进行组合表示. 该K-L变换常用于信息压缩，很少用于分类。 K－L坐标系的生成