Prof.Cai Yuan-LiXianJiaotongUniv.= g(z)xT _ / g(z)xTf(x,z)dxdz = 0证毕!21
Xi’an Jiaotong Univ. Prof. Cai Yuan-Li 21 = 𝑔(𝑧)𝑥 𝑇 − ∬𝑔(𝑧)𝑥 𝑇𝑓(𝑥, 𝑧)𝑑𝑥𝑑𝑧 = 0 证毕!
Prof.Cai Yuan-LiXianJiaotongUniv.[推论3-4](随机投影定理)设g()为任一函数,那么Elx-E[ xz]l ≤ Ellx - g(z)Il2(3.1.4)[证明]根据范数的定义Ix - g(z)I2 = IIx - E[x|z] + E[x|z] - g(z)]12= Ix - E[x|z]12 + IE[x|z] - g(z)1222
Xi’an Jiaotong Univ. Prof. Cai Yuan-Li 22 [推论 3-4] (随机投影定理) 设𝑔(•)为任一函数,那么 𝐸‖𝑥 − 𝐸[ 𝑥| 𝑧]‖ 2 ≤ 𝐸‖𝑥 − 𝑔(𝑧)‖ 2 (3.1.4) [证明] 根据范数的定义 ‖𝑥 − 𝑔(𝑧)‖ 2 = ‖𝑥 − 𝐸[𝑥|𝑧] + 𝐸[𝑥|𝑧] − 𝑔(𝑧)‖ 2 = ‖𝑥 − 𝐸[𝑥|𝑧]‖ 2 + ‖𝐸[𝑥|𝑧] − 𝑔(𝑧)‖ 2
Prof.CaiYuan-LiXianJiaotongUniv.+(x - E[x|z])(E[x|z) - g(z))7+ (E[x|z] - g(z))(x - E[x|z])根据随机正交定理(3.1.3),可知EIx - g(z)]12 = E/x -E[x|z]12 + EIE[xz] - g(z)]12因此ElxE[xz]2≤Elx-g(z)I2。证毕!23
Xi’an Jiaotong Univ. Prof. Cai Yuan-Li 23 +(𝑥 − 𝐸[𝑥|𝑧])(𝐸[𝑥|𝑧) − 𝑔(𝑧)) 𝑇 + (𝐸[𝑥|𝑧] − 𝑔(𝑧))(𝑥 − 𝐸[𝑥|𝑧]) 𝑇 根据随机正交定理(3.1.3),可知 𝐸‖𝑥 − 𝑔(𝑧)‖ 2 = 𝐸‖𝑥 − 𝐸[𝑥|𝑧]‖ 2 + 𝐸‖𝐸[𝑥|𝑧] − 𝑔(𝑧)‖ 2 因此 𝐸‖𝑥 − 𝐸[ 𝑥|𝑧]‖ 2 ≤ 𝐸‖𝑥 − 𝑔(𝑧)‖ 2。证毕!
Prof. Cai Yuan-LiXianJiaotongUniv.[定理3-4](高斯条件均值与协方差)设x~N(x,Px),z~N(z,P2)y = [xT,zT]T~N(O, Py),[PxPxzPxz = E(x - x)(z - 2)T. 那么其中,Py二[PzxPz](3.1.5)E[x|z] = x + PxzP-1(z - 2)(3.1.6)Pxlz = Px- PxzPz-1Pzx【证明】因为24
Xi’an Jiaotong Univ. Prof. Cai Yuan-Li 24 [定理 3-4] (高斯条件均值与协方差) 设𝑥~𝑁(𝑥̄,𝑃𝑥), 𝑧~𝑁(𝑧̄, 𝑃𝑧), 𝑦 = [𝑥 𝑇 , 𝑧 𝑇 ] 𝑇~𝑁(𝑦̄, 𝑃𝑦), 其中, 𝑃𝑦 = [ 𝑃𝑥 𝑃𝑥𝑧 𝑃𝑧𝑥 𝑃𝑧 ],𝑃𝑥𝑧 = 𝐸( 𝑥 − 𝑥̄)(𝑧 − 𝑧̄) 𝑇 . 那么 𝐸[ 𝑥|𝑧] = 𝑥̄+ 𝑃𝑥𝑧𝑃𝑧 −1 (𝑧 − 𝑧̄) (3.1.5) 𝑃𝑥|𝑧 = 𝑃𝑥 − 𝑃𝑥𝑧𝑃𝑧 −1𝑃𝑧𝑥 (3.1.6) 【证明】因为
Xian JiaotongUnivProf. Cai Yuan-Lify(y)fxz(x,z)fx(z(x[2)f(2)fz(z)/(2元)m|Pzlexpl -[(y-)Tp-1(*) -(z/(2元)n+mIP- 2)TP-1(*)I)考虑到D-1-D-1PxzP-1P-1 =(3.1.7)-P-1PzxD-1Pz-1 + P-1PzxD-1PxzP-125
Xi’an Jiaotong Univ. Prof. Cai Yuan-Li 25 𝑓𝑥|𝑧(𝑥|𝑧) = 𝑓𝑥𝑧(𝑥, 𝑧) 𝑓𝑧(𝑧) = 𝑓𝑦(𝑦) 𝑓𝑧(𝑧) = √(2𝜋)𝑚|𝑃𝑧 | √(2𝜋) 𝑛+𝑚|𝑃𝑦| exp{ − 1 2 [(𝑦 − 𝑦̄) 𝑇𝑃𝑦 −1 (∗) − (𝑧 − 𝑧̄) 𝑇𝑃𝑧 −1 (∗)]} 考虑到 𝑃𝑦 −1 = [ 𝐷 −1 −𝐷 −1𝑃𝑥𝑧𝑃𝑧 −1 −𝑃𝑧 −1𝑃𝑧𝑥𝐷 −1 𝑃𝑧 −1 + 𝑃𝑧 −1𝑃𝑧𝑥𝐷 −1𝑃𝑥𝑧𝑃𝑧 −1 ] (3.1.7)