§11.2 Markov链Monte Carlo方法简介 在维数非常高的情况下,因为计算量太大,使用上节 介绍的静态Monte Carlo方法处理速度太慢。动态Monte Carlo,即Markov链Monte Carlo方法的主要用于对维数 非常高的随机向量取样。 MCMC方法首先应建立一个Markov链,使得其极限 17/52 分布是平稳分布,则从目标分布中产生随机样本,就是 从达到平稳状态的Markov链中产生样本路径。一个好 的Markov链应该满足从任意位置出发能快速达到平稳分 布这种性质。 MCMC方法的理论依据是几个极限定理: 首先,由第5章定理5.3.3可知,遍历的arkov链(即 GoBack FullScreen Close Quit
17/52 kJ Ik J I GoBack FullScreen Close Quit §11.2 MarkovÛMonte Carloê{{0 3ëÍö~pú¹eßœèOé˛åß¶^˛! 0·Monte Carloê{?nÑ›˙"ƒMonte Carloß=MarkovÛMonte Carloê{Ãá^uÈëÍ ö~pëÅï˛" MCMCê{ƒkAÔ·òáMarkovÛß¶Ÿ4Å ©Ÿ¥²©ŸßKl8I©Ÿ•)ëÅß“¥ là²GMarkovÛ•)¥ª"òá– MarkovÛAT˜vl?ø†ò—uUØÑ಩ Ÿ˘´5ü" MCMCê{nÿù‚¥Aá4Žnµ ƒkßd15Ÿ½n5.3.3åßH{MarkovÛ£=
y 不可约、正常返、非周期的Markov链)的极限分布是平稳 分布且是唯一的平稳分布; 考虑一个状态空间为S={1,2,·,N} 的Markov链 {Xm,n=0,1,2,…},转移概率矩阵记为 p11P12··P1N P= P21P22··P2N 18/52 PN1PN2···PNN 式中,p(i,j=1,2,·,N)表示时齐的Markov链从状 态经过一步后转移到状态j的概率;对于遍历的Markov链, 极限分布为 πj=limp%,j∈S π表示经过长时间运行后系统处于状态的时间的比例, GoBack FullScreen Close Quit
18/52 kJ Ik J I GoBack FullScreen Close Quit ÿå!~à!ö±œMarkovÛ§4Å©Ÿ¥² ©ŸÖ¥çò²©Ÿ¶ ƒòáGòmèS = {1, 2, · · · , N} MarkovÛ {Xn, n = 0, 1, 2, · · · } ß=£V«› Pè P = p11 p12 · · · p1N p21 p22 · · · p2N · · · · · · · · · · · · pN1 pN2 · · · pNN ™•ßpij(i, j = 1, 2, · · · , N)L´û‡MarkovÛlG i²Lò⁄=£GjV«¶ÈuH{MarkovÛß 4Å©Ÿè πj = lim n→∞ p n ij, j ∈ S πjL´²Lûm$1X⁄?uGjûm'~ß