5.2数学模型与几何解释一数学模型 令假设我们所讨论的实际问题中,有p个指标,我们把这p 个指标看作p个随机变量,记为X,X,…,X,主成 分分析就是要把这p个指标的问题,转变为讨论p个指标 的线性组合的问题,而这些新的指标F,F2,…, F(kp),按照保留主要信息量的原则充分反映原指标 的信息,并且相互独立。 今这种由讨论多个指标降为少数几个综合指标的过程在数 学上就叫做降维。主成分分析通常的做法是,寻求原指 标的线性组合F。 2021/11/30
2021/11/30 6 zf 5.2 数学模型与几何解释－数学模型 ❖ 假设我们所讨论的实际问题中，有p个指标，我们把这p 个指标看作p个随机变量，记为X1，X2，…，Xp，主成 分分析就是要把这p个指标的问题，转变为讨论p个指标 的线性组合的问题，而这些新的指标F1，F2，…， Fk (k≤p），按照保留主要信息量的原则充分反映原指标 的信息，并且相互独立。 ❖ 这种由讨论多个指标降为少数几个综合指标的过程在数 学上就叫做降维。主成分分析通常的做法是，寻求原指 标的线性组合Fi
原始指标的线性组合F: F X,+L1X,+ X+uX+.tu X F AX Fn=pX1+ln2X2+…+lmXp 今满足如下的条件: 1、每个主成分的系数平方和为1。即 Why? +l2+…+L2=1 2、主成分之间相互独立,即无重叠的信息。即 Cov (E,F=0,itj, i,j=1, 2 P 3、主成分的方差依次递减,重要性依次递减 201amr(F)Var(F2)≥…≥Var(F)
2021/11/30 7 zf 原始指标的线性组合Fi： ❖ 满足如下的条件： 1、每个主成分的系数平方和为1。即 2、主成分之间相互独立，即无重叠的信息。即 3、主成分的方差依次递减，重要性依次递减 p p p p p p p p p p F u X u X u X F u X u X u X F u X u X u X = + + + = + + + = + + + 1 1 2 2 2 2 1 1 2 2 2 2 1 1 1 1 1 2 2 1 1 2 2 2 2 ui1 + ui ++ uip = Cov（Fi，Fj）= 0，i j，i，j =1， 2， ，p ( ) ( ) Var（F1）Var F2 Var F p Why? ? AX X X X u u u u u u u u u F p p pp P p p = = 2 1 1 2 21 22 2 11 12 1
5.2数学模型与几何解释一几何解释 令假设有n个样品,每个样品有两个观测变量x和x2,在由 变量ⅹ和ⅹ2所确定的二维平面中,n个样本点所散布的情 况如椭圆状。如图所示 F F 68 X 2021/11/30 平移、旋转标轴 8
2021/11/30 8 zf ❖ 假设有n个样品，每个样品有两个观测变量xl和x2，在由 变量xl和x2 所确定的二维平面中，n个样本点所散布的情 况如椭圆状。如图所示： 5.2 数学模型与几何解释－几何解释 • F2 • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • F1 1 x 2 x 平移、旋转坐标轴
令由图可以看出这n个样本点无论是沿着x轴方向或x2轴 方向都具有较大的离散性,其离散的程度可以分别用观 测变量ⅹ的方差和ⅹ2的方差定量地表示。显然,如果只 考虑x和x2中的任何一个,那么包含在原始数据中的经 济信息将会有较大的损失。 令如果我们将ⅹ轴和x2轴先平移,再同时按逆时针方向旋 转角度,得到新坐标轴F和F2°F1和F2是两个新变量 F1轴方向上的离散程度最大,即F的方差最大。说明变量F代表了原始 数据的绝大部分信息,即使不考虑变量F2也无损大局
2021/11/30 9 zf ❖ 由图可以看出这n个样本点无论是沿着xl 轴方向或x2轴 方向都具有较大的离散性，其离散的程度可以分别用观 测变量xl 的方差和x2 的方差定量地表示。显然，如果只 考虑xl和x2 中的任何一个，那么包含在原始数据中的经 济信息将会有较大的损失。 ❖ 如果我们将xl 轴和x2轴先平移，再同时按逆时针方向旋 转角度，得到新坐标轴Fl和F2。Fl和F2是两个新变量。 Fl轴方向上的离散程度最大，即Fl的方差最大。说明变量Fl代表了原始 数据的绝大部分信息，即使不考虑变量F2也无损大局
平移、旅转坐标轴 X F 2021/11/30 10
2021/11/30 10 zf • 2 x 1 x F1 F2 • • •• • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • • 平移、旋转坐标轴