第五讲高斯图模型2025X1var(xi)Z=varX(var(xi/x2) )-12-1
第五讲 高斯图模型 2025 1 Σ = var 𝐱1 𝐱2 = var(𝐱1) ∗ ∗ ∗ , Σ −1 = (var(𝐱1|𝐱2) ) −1 ∗ ∗ ∗
内容多元生成分布：球对称正态、Boltzmann分布椭球分布多元正态分布高斯图模型·概率图模型：马氏随机场Hammersley-Clifford定理
内容 • 多元生成分布：球对称正态、Boltzmann分布 • 椭球分布 • 多元正态分布 • 高斯图模型 • 概率图模型：马氏随机场 • Hammersley-Clifford定理 2
高斯积分方法计算球表面积（参见第一讲P27定理1的证明2）Recap及其与Mawell-Hershell定理的关系注意不能应用任何与球面积或体积有关的先验知识，比如不能使用球内均匀分布等取球对称多元正态密度（略去常数）：p(x) = e- xl = I’=1 e-x?下面用两种方式计算其积分，p(x)dx，注意p(x）有两个特点：(1)球对称：p(x)仅依赖于模长，利用球坐标可把径向与球面分离开来：J p(x)dx = J e-x x = J Joo)xsn-1 e-r n-1drdo= Je-r*rn-1dr × Jsn-1 dg ==r(n/2) Isn-1|(2)分量独立：p(x)可分解，多重积分转化为n个一重积分J p(x)dx= J ... e-xi-.-ndx-... xn = (J e-xidx1)" = πn/2→ r(n/2)sn-1//2 = πn/2 → [sn-1/ = 2元n/2 /r(n/2)同时具有球对称和分量独立两个性质的分布只有球对称多元正态分布(Mawell-Hershell定理），故p(x)取球对称正态是唯一的选择。m
3 取球对称多元正态密度（略去常数）： 𝑝 𝐱 = 𝑒 − 𝐱 2 = ς𝑖=1 𝑝 𝑒 −𝑥𝑖 2 下面用两种方式计算其积分,�𝑑� �� �� 注意𝑝 𝐱 有两个特点： ⇒ Γ 𝑛/2 𝑆 𝑛−1 /2 = 𝜋 𝑛/2 ⇒ 𝑆 𝑛−1 = 2𝜋 𝑛/2/Γ(𝑛/2) (1) 球对称：𝑝 𝐱 仅依赖于模长， 利用球坐标可把径向与球面分离开来： �� = �𝑑� �� �� − 𝐱 2 ��×(∞,0( = �𝑑� 𝑛−1 𝑒 −𝒓 2 𝑟 𝑛−1𝑑𝑟𝑑𝜎 �� = −𝒓 2 𝑟 �� × �𝑑�1𝑛− 𝑛−1 𝑑𝜎 = 1 2 Γ(𝑛/2) |𝑆 𝑛−1 | (2) 分量独立：𝑝 𝐱 可分解，多重积分转化为𝑛个一重积分 �� ⋯ = �𝑑� �� �� −𝑥1 2−⋯−𝑥𝑛 2 �� = �𝑥𝑑� . 1𝑑𝑥 −𝑥1 2 𝑑𝑥1 𝑛 = 𝜋 𝑛/2 Recap 高斯积分方法计算球表面积（参见第一讲P27定理1的证明2 ） 及其与Mawell-Hershell定理的关系 注意不能应用任何与球面积或体积有关的先验知识，比如不能使用球内均匀分布等 同时具有球对称和分量独立两个性质的分布只有球对称多元正态 分布(Mawell-Hershell定理), 故𝑝 𝐱 取球对称正态是唯一的选择
正态变量相依性与协方差矩阵有关，条件相依性与协方差矩阵的逆有关第4讲性质6，6*：假设x~N(u,2),>0,=-1，划分212Z11(211Z12L22221221222其中x1,是q×1向量，Z11,11是q×q方阵，则X1~Ng(μ1,E11);←var(x1）为Z的子矩阵Z11X1/X2~Ng(μ1 +Z12222(X2μ2),Z11.2)= Ng(μ - 2i1212(X2 -μ2),2i1)一var（x1Ix2）为2子矩阵211的逆(211(211**ZZ:***var(x1)(var(x1/x2) )-1var(x1/x2) = 2i1
4 第4讲性质6，6*：假设 𝐱~𝑁𝑝 𝜇, Σ , Σ > 0,Ω = Σ −1 ，划分 𝐱 = 𝐱1 𝐱2 , 𝛍 = 𝛍1 𝛍2 ,Σ = Σ11 Σ12 Σ21 Σ22 , Ω = Ω11 Ω12 Ω21 Ω22 其中𝐱1, 𝛍1是𝑞 × 1向量，Σ11,Ω11是𝑞 × 𝑞方阵，则 • 𝐱1~𝑁𝑞 𝛍1, Σ11 ； • 𝐱1|𝐱2~𝑁𝑞 𝛍1 + Σ12Σ22 −1 𝐱2 − 𝛍2 , Σ11⦁2 = 𝑁𝑞 𝛍1 − Ω11 −1Ω12 𝐱2 − 𝛍2 , Ω11 −1 . Σ = Σ11 ∗ ∗ ∗ , Σ −1 = Ω = Ω11 ∗ ∗ ∗ var(𝐱1) (var(𝐱1|𝐱2) ) −1 var(𝐱1 𝐱2 = Ω11 −1 ← var(𝐱1) 为Σ的子矩阵Σ11 ← var(𝐱1 𝐱2 为Ω子矩阵Ω11的逆 正态变量相依性与协方差矩阵有关，条件相依性与协方差矩阵的逆有关
高斯图模型当关注条件相依和条件独立时，多元正态分布称为高斯图模型（并以无向图表示）记号约定记号：随机向量x=（x,x2x），假设下标集合S(,2.p)XA与X-Ax中下标属于S的分量组成向量x，=(x,ieS),不属于S的分量组成x_s =(x,i S)假设Z=cov(x)是p×p正定矩阵,设下标集合A,B,Cc(1,2,.p),互斥。ZABZAB·C·ZAB=cov(XA,XB)为Z的行标为A,列标为B的子矩阵；ZABC=ZAB-ZAcZCCZcB
5 . ),cov( , )cov( , ,.,2,1{, }, 1 AB C AB AC CBCC AB BA BA pp CBA p 为 的行标为 列标为 的子矩阵； 假设 是 正定矩阵 设下标集合 互斥。 xx x 组成 。 中下标属于 的分量组成向量 不属于 的分量 记号：随机向量 假设下标集合 ， ),( ,( ), ,),.,( },.,2,1{ 21 Six S SSix xxx S p iS iS p x x x x T Σ𝐴𝐵 Σ𝐴𝐵⦁𝐶 𝐱𝐴与𝐱−𝐴 高斯图模型 记号约定 当关注条件相依和条件独立时，多元正态分布 称为高斯图模型（并以无向图表示）