4.令0()=0. 例3（切片Gibbs抽样：1 ogistic回归中的应用）考虑WAIS数据分析的 例子 我们选取铺助变量使得 f(u,Bo,B1lg)）x Π(u:≤ (B0-482_1-Ha2 1+e30+B1x i= 20 20 B0,B1的边际分布为 f(Bo,B1ly)= f(u,Bo,Bily)du xΠ eB0十B1工y 1=1 2a哈 2a1 即为我们在第8讲例7中的模型.因此我们使用切片Gibbs抽样方法 1.对i=1,·,n,从如下分布中产生u eBov+B1iv uilu-i:Bo,B1:y~U(0. 1+e0+x4a) Previous Next First Last Back Forward 14
4. -θ (t) = θ. ~ 3 (É°Gibbsƒ: logistic£8•A^) ƒWAISÍ‚©¤ ~f. ·Ç¿9œC˛¶ f(u, β0, β1|y) ∝ Yn i=1 I(ui ≤ e β0yi+β1xiyi 1 + e β0+β1xi )exp − (β0 − µβ0 ) 2 2σ 2 β0 − (β1 − µβ1 ) 2 2σ 2 β1 β0, β1>S©Ÿè f(β0, β1|y) = Z f(u, β0, β1|y)du ∝ Yn i=1 e β0yi+β1xiyi 1 + e β0+xiβ1 exp − (β0 − µβ0 ) 2 2σ 2 0 − (β1 − µβ1 ) 2 2σ 2 1 . =è·Ç318˘~7• .. œd·Ç¶^É°Gibbsƒê{ 1. Èi = 1, · · · , n, lXe©Ÿ•)ui, ui|u−i, β0, β1, y ∼ U(0, e β0yi+β1xiyi 1 + e β0+xiβ1 ) Previous Next First Last Back Forward 14
2.从如下分布中产生30， eBo十B1x4e Bolu,B1,y~N(ao,a)ΠIu,≤1+e+ 3.从如下分布中产生B1, Bilu,BoN() ΠI(≤ eBov+B1riv 1+e0+)】 上述条件后验分布为截断的正态分布，截断的区间定义为山，≤兴 1+e0干1， 其可以重新表示为 e8o+81x Forh=1→i≤ ui 1+e+所→6+A≥之lg- 1 一时 For班=0→≤1+e6+4所→品+8≤log i 因此得到 一4) maog1)≤6+1≤mog :y4=1 1-ui' 1:yH=0 u Previous Next First Last Back Forward 15
2. lXe©Ÿ•)β0, β0|u, β1, y ∼ N(µβ0 , σ2 β0 ) Yn i=1 I(ui ≤ e β0yi+β1xiyi 1 + e β0+xiβ1 ), 3. lXe©Ÿ•)β1, β1|u, β0, y ∼ N(µβ1 , σ2 β1 ) Yn i=1 I(ui ≤ e β0yi+β1xiyi 1 + e β0+xiβ1 ). ˛„^á©Ÿè ‰©Ÿ. ‰´m½¬èui ≤ e β0yi+β1xiyi 1+e β0+xiβ1 , Ÿå±#L´è F or yi = 1 =⇒ ui ≤ e β0+β1xi 1 + e β0+xiβ1 =⇒ β0 + β1xi ≥ log ui 1 − ui F or yi = 0 =⇒ ui ≤ 1 1 + e β0+xiβ1 =⇒ β0 + β1xi ≤ log 1 − ui ui œd max i:yi=1 (log ui 1 − ui ) ≤ β0 + β1xi ≤ min i:yi=0 (log 1 − ui ui ) Previous Next First Last Back Forward 15
对B0,B1解上述不等式得到 6=sog-1）≤%≤w=肥，og -i-B1x) 1ya=1 i:yi=0 ui 以及 4=sc2og-≤A≤=cg- i:yi=I i:U4=0 ui 在此例中，所有的x:>0.因此参数o:B月1最终由分布N(480,c,)I(l0,uo) 和N(41,后，)I(1,u1)产生 这里我们要从一个截断分布中产生随机数，这并不困难.事实上，若要从如 下截断分布中抽样 F昭，)=P(X≤xa≤X≤b)= F(x)-F(a) F(b)-F(a) yxe la, 则我们可以产生u~U(0,1),然后令u=F名(，那么解此方程得到 x=F-1(F(a)+uF(b)-F(a)]) Previous Next First Last Back Forward 16
Èβ0, β1)˛„ÿ ™ l0 = max i:yi=1 (log ui 1 − ui − β1xi) ≤ β0 ≤ u0 = min i:yi=0 (log 1 − ui ui − β1xi) ±9 l1 = max i:yi=1 (x −1 i [log ui 1 − ui −β0]) ≤ β1 ≤ u1 = min i:yi=0 (x −1 i [log 1 − ui ui −β0]) 3d~•,§kxi > 0. œdÎÍβ0, β1Å™d©ŸN(µβ0 , σ2 β0 )I(l0, u0) ⁄N(µβ1 , σ2 β1 )I(l1, u1)). ˘p·Çálòá ‰©Ÿ•)ëÅÍ, ˘øÿ(J. Ø¢˛, eál X e ‰©Ÿ•ƒ F T [a,b] (x) = P(X ≤ x|a ≤ X ≤ b) = F(x) − F(a) F(b) − F(a) , ∀ x ∈ [a, b] K·Çå±)u ∼ U(0, 1), ,-u = F T [a,b] (x), @o)dêß x = F −1 (F(a) + u[F(b) − F(a)]). Previous Next First Last Back Forward 16