《多元分析》 主成分分析的基本思想

为了方便,我们在二维空间中讨论主成分的几何意义。 设有n个样品,每个样品有两个观测变量x和×2,在由变量 ⅹ和ⅹ2所确定的二维平面中,n个样本点所散布的情况如 椭圆状。由图可以看出这n个样本点无论是沿着x轴方向 或X2轴方向都具有较大的离散性,其离散的程度可以分别 用观测变量x的方差和x2的方差定量地表示。显然,如果 只考虑x和x2中的任何一个,那么包含在原始数据中的经 济信息将会有较大的损失

为了方便，我们在二维空间中讨论主成分的几何意义。 设有n个样品，每个样品有两个观测变量xl和x2，在由变量 xl和x2 所确定的二维平面中，n个样本点所散布的情况如 椭圆状。由图可以看出这n个样本点无论是沿着xl 轴方向 或x2轴方向都具有较大的离散性，其离散的程度可以分别 用观测变量xl 的方差和x2 的方差定量地表示。显然，如果 只考虑xl和x2 中的任何一个，那么包含在原始数据中的经 济信息将会有较大的损失

如果我们将x轴和x2轴先平移,再同时 按逆时针方向旋转0角度,得到新坐标轴F和 F2。F和F2是两个新变量

• 如果我们将xl 轴和x2轴先平移，再同时 按逆时针方向旋转角度，得到新坐标轴Fl和 F2。Fl和F2是两个新变量

根据旋转变换的公式: V=x, cos 6+x, sin 0 x, sin+x cos e cos 8 sin 0x Ux sin e cos e八x2 U为旋转变换矩阵,它是正交矩阵,即有 U′=UUU=I

根据旋转变换的公式：    = − + = +     sin cos cos sin 1 1 2 1 1 2 y x x y x x  = Ux            −  =      2 1 2 1 sin cos cos sin x x y y     U为旋转变换矩阵，它是正交矩阵，即有 U = U UU = I − , 1