Cochran定理是第7讲引理4的多元版本:引理4.假设x~Nm(0,lm),P是秩为r的m×m投影矩阵(对称幂等矩阵),则xTPx~xxT(lm-P)x~xm-r,两者独立Cochran定理2(Cochran)假设z1,.,Zmiid~Np(o,Z),Z=(z1..,zm)定理若P是m×m对称幂等常数矩阵,r=rank(P),则zTPZ ~W,(r,Z), zT(Im - P)Z~Wp(m -r,Z),且两者独立。Cochran定理图示Z(Im - P)zPZ I (Im - P)zPZZPZ二+(Im - P)zZTZ=ZTPZ+ zT(Im-P)zW(m, )) = Wp(r,2) + IWp(m -r,E)6
6 Cochran 定理 引理4. 假设 𝐱~𝑁𝑚 0,𝐼𝑚 ,𝑃是秩为𝑟的 𝑚 × 𝑚投影矩阵(对称幂等矩阵),则𝐱 ⊤𝑃𝐱~𝜒𝑟 2, 𝐱 ⊤ 𝐼𝑚 − 𝑃 𝐱~𝜒𝑚−𝑟 2 , 两者独立 Cochran定理是第7讲引理4的多元版本: 定理2(Cochran) 假设𝐳1, . , 𝐳𝑚 iid ~𝑁𝑝(𝟎, Σ),𝑍 = (𝐳1, . , 𝐳𝑚) ⊤ , 若𝑃是𝑚 × 𝑚对称幂等常数矩阵,𝑟 = 𝑟𝑎𝑛𝑘(𝑃),则 𝑍 ⊤𝑃𝑍 ~𝑊𝑝(𝑟, Σ),𝑍 ⊤ 𝐼𝑚 − 𝑃 𝑍~𝑊𝑝(𝑚 − 𝑟, Σ), 且两者独立。 Cochran定理图示 𝑍 𝑃𝑍 (𝐼𝑚 − 𝑃)𝑍 𝑍 = 𝑃𝑍 + (𝐼𝑚 − 𝑃)𝑍 𝑍 ⊤𝑍 = 𝑍 ⊤𝑃𝑍 + 𝑍 ⊤(𝐼𝑚 − 𝑃)𝑍 𝑊𝑝 𝑚, Σ = 𝑊𝑝 𝑟, Σ + 𝑊𝑝 𝑚 − 𝑟, Σ 𝑃𝑍 ⫫ (𝐼𝑚 − 𝑃)𝑍
证明:因为P是对称幂等矩阵,存在正交矩阵HEO(m)O0P= H(HT)HT → Im - P= H记Y=HTz,它与Z同分布,其行向量id~N(O,Z),划分Y:ZTPZ =T(r)Y=YTYi~Wp(r,2)0(0700zT(Im - P)Z = YT(Y = YTY2~Wp(m -r,Z)(0且 zTPZ I zT(Im - P)Z
7 证明:因为 𝑃是对称幂等矩阵,存在正交矩阵𝐻 ∈ 𝒪(𝑚) 𝑃 = 𝐻 𝐼𝑟 0 0 0 𝐻 ⊤ ⇒ 𝐼𝑚 − 𝑃 = 𝐻 0 0 0 𝐼𝑚−𝑟 𝐻 ⊤ 记𝑌 = 𝐻 ⊤𝑍, 它与𝑍同分布,其行向量 iid ~𝑁𝑝(𝟎, Σ),划分𝑌 = 𝑌1 𝑌2 , 𝑌1⫫𝑌2, 𝑍 ⊤𝑃𝑍 = 𝑌 ⊤ 𝐼𝑟 0 0 0 𝑌 = 𝑌1 ⊤𝑌1~𝑊𝑝(𝑟, Σ) 𝑍 ⊤(𝐼𝑚 − 𝑃)𝑍 = 𝑌 ⊤ 0 0 0 𝐼𝑚−𝑟 𝑌 = 𝑌2 ⊤𝑌2~𝑊𝑝(𝑚 − 𝑟, Σ) 且 𝑍 ⊤𝑃𝑍 ⫫ 𝑍 ⊤(𝐼𝑚 − 𝑃)𝑍
引入Wishart分布的目的是为了考察样本协方差矩阵s的分布样本协方由Cochran定理可知(n一1)s服从Wishart分布。差矩阵的分布样本:X1,..,XnERp样本矩阵:X=(X1.,Xn)T样本协方差矩阵:S =,Z=1(Xi -x)(Xi -x)T = XT(In - Pi)Xn-定理3.假设x1,,Xniid~N(u,2),S为样本协方差矩阵,则W = (n - 1)S~W(n - 1,Z)证明:令zi = Xi-μ~Np(O,2)X = (X1,.,Xn)T, Z = (z1,.,Zn)T = X- 1μT(n - 1)S = XT(In - P1)X = zT(In - P1)Z因为rank(In - P1) = tr(In - P1) = n - 1,由Cochran定理,(n-1)S~Wp(n -1,2)8
8 证明:令𝐳𝑖 = 𝐱𝑖 − 𝛍~𝑁𝑝(𝟎, Σ) 𝑋 = (𝐱1, . , 𝐱𝑛) ⊤ ,𝑍 = (𝐳1, . , 𝐳𝑛) ⊤ = 𝑋 − 𝟏𝛍 ⊤ 𝑛 − 1 𝑆 = 𝑋 ⊤ 𝐼𝑛 − 𝑃𝟏 𝑋 = 𝑍 ⊤ 𝐼𝑛 − 𝑃𝟏 𝑍 因为𝑟𝑎𝑛𝑘 𝐼𝑛 − 𝑃𝟏 = 𝑡𝑟(𝐼𝑛 − 𝑃𝟏) = 𝑛 − 1, 由Cochran定理, 𝑛 − 1 𝑆~𝑊𝑝 𝑛 − 1, Σ . 定理3. 假设𝐱1, . , 𝐱𝑛 iid ~𝑁𝑝 𝝁, Σ , 𝑆 为样本协方差矩阵, 则𝑊 = 𝑛 − 1 𝑆~𝑊𝑝 𝑛 − 1, Σ 引入Wishart分布的目的是为了考察样本协方差矩阵𝑆的分布, 由Cochran定理可知(𝑛 − 1)𝑆服从Wishart分布。 样本协方 差矩阵的 分布 样本:𝐱1, . , 𝐱𝑛 ∈ 𝑅 𝑝 样本矩阵:𝑋 = (𝐱1, . , 𝐱𝑛) ⊤ 样本协方差矩阵: 𝑆 = 1 𝑛−1 σ𝑖=1 𝑛 (𝐱𝑖 − 𝐱ത)(𝐱𝑖 − 𝐱ത) ⊤ = 𝑋 ⊤ 𝐼𝑛 − 𝑃𝟏 𝑋